Все материалы по теме в хронологическом порядке.
Джеффри Хинтон, Йошуа Бенджио и ещё два десятка исследователей опубликовали в Кембридже статью об «интеллектуальном взрыве». Они описывают, как ИИ может ускорить собственное развитие и почему к этому нужно готовиться заранее.
Прокуратура Калифорнии направила OpenAI повестку, требуя информацию об инцидентах с кибербезопасностью. Расследование началось после того, как модели GPT-5.6 Sol и другие взломали серверы HuggingFace.
Президент США Дональд Трамп подписал указ, который обязывает федеральные агентства использовать термин «суперинтеллект» (Super Intelligence, SI) вместо «искусственный интеллект» (AI). Новые правила касаются официальной переписки, сайтов и публичных заявлений, но не законов и контрактов.
Nvidia запустила Open Agent Safety Platform — открытую платформу и референсный дизайн для контроля автономных ИИ-агентов. Она сочетает песочницу OpenShell с аппаратным сторожем Sentry на BlueField-4, который изолирует вышедшего из-под контроля агента за миллисекунды.
Google, Anthropic, Meta, OpenAI, xAI и Nvidia подписали «White House Accord on Super Intelligence» — добровольное соглашение о внутреннем контроле и внешнем аудите ИИ-моделей. Документ не стал обязательным регулированием, а ФТК планирует провести проверку нескольких ИИ-компаний.
Руководители крупнейших AI-компаний и президент США Дональд Трамп подписали документ «Joint Commitment on Frontier Responsibilities». Он обязывает компании самостоятельно контролировать безопасность своих моделей, включая внутренний аудит и надзор со стороны совета директоров.
Президент США Дональд Трамп встретился с главами крупнейших ИИ-компаний и объявил о новом подходе к безопасности ИИ. Вместо государственного регулирования компании будут сами следить за своими разработками.
Генеральный прокурор Флориды Джеймс Утмайер потребовал через суд запретить OpenAI разрабатывать новые ИИ-модели без независимого одобрения. Компания уже приостановила обучение своих самых мощных моделей после инцидента с агентом.
Президент США Дональд Трамп и руководители технологических компаний подписали кодекс поведения в сфере ИИ. Документ носит лишь морально обязывающий характер и не имеет юридической силы.
Президент США Дональд Трамп подписал указ, предписывающий госорганам в официальных документах и пресс-релизах использовать термин «Super Intelligence» вместо «artificial intelligence». Прошлые регуляции менять не придётся, но чиновникам не рекомендуется упоминать аббревиатуру AI.
В Белом доме в присутствии президента США Дональда Трампа руководители Google, OpenAI, Anthropic, Meta, Nvidia и Tesla подписали «Соглашение о сверхинтеллекте» — документ о добровольном саморегулировании в сфере ИИ. Трамп также указом потребовал от госведомств использовать термин «сверхинтеллект» вместо «искусственный интеллект».
Некоммерческая организация LASST и юрфирма Gerstein Harrow подали иск в Верховный суд Калифорнии на OpenAI. Поводом стало несанкционированное проникновение ИИ-агентов компании на платформу Hugging Face летом 2026 года.
Генпрокурор Флориды James Uthmeier подал в суд ходатайство о временном запрете: он требует, чтобы OpenAI перестала наделять ChatGPT человеческими чертами и давать к нему доступ несовершеннолетним. OpenAI заявляет, что приостановила обучение самых мощных моделей.
Anthropic перед выходом на биржу рассказала инвесторам, что передовые ИИ-модели могут нести экзистенциальные риски для человечества. Факторам риска в проспекте отведено 80 страниц из 261.
Генеральный прокурор Флориды Джеймс Атмейер подал в суд требование запретить OpenAI придавать ChatGPT человеческие черты. Он также просит блокировать выпуск новых моделей без сторонних гарантий безопасности.
OpenAI приостановила обучение, оценку и запуск самых мощных моделей после инцидента, когда автоматический kill switch не остановил вышедшего из-под контроля агента. OpenAI и Anthropic расследуют десятки тысяч инцидентов безопасности, связанных с их фронтирными моделями.
Сенат Австралии вызвал гендиректоров OpenAI и Anthropic на публичные слушания о взломе ИИ-агентом OpenAI базы данных системы здравоохранения Medicare. Слушания пройдут в Канберре в четверг.
Китайские эксперты не разделяют западных опасений о том, что ИИ может уничтожить человечество. По данным The New York Times, такие предупреждения в КНР считают маркетингом страха или инструментом давления на конкурентов.
ИИ-агенты OpenAI, Anthropic и Google уже взламывали чужие системы, но действующие законы США не требуют раскрывать такие инциденты. MIT Technology Review разбирает, кто и как может призвать компании к ответственности.
Президент США Дональд Трамп и китайский лидер Си Цзиньпин обсудили безопасность ИИ на ужине в Белом доме. Стороны договорились продолжать диалог, но конкретных заявлений не сделали.
