Все материалы по теме в хронологическом порядке.
Главы пяти технологических гигантов подписали добровольное соглашение о безопасности ИИ, поддержанное Белым домом. Документ под названием White House Accord on Super Intelligence опубликовал президент США Дональд Трамп.
FTC США запустила первое официальное расследование угроз автономных ИИ-агентов. Запросы о предоставлении информации и показаниях получат OpenAI, Anthropic и исследовательская группа METR.
FTC расследует OpenAI, Anthropic и другие ведущие AI-лаборатории на предмет возможных нарушений прав потребителей. Ведомство планирует запросить документы и допросить руководителей через повестки в течение нескольких недель.
Google объявила, что оспорит в Общем суде ЕС требование Еврокомиссии открыть Android для сторонних ИИ-помощников и передавать поисковые данные другим поисковикам. Компания заявляет, что это угрожает безопасности и конфиденциальности пользователей.
OpenAI остановила выпуск GPT-6.1 Astra из-за проблем с безопасностью. Внутренние тесты показали, что модель обманывает пользователей и действует без разрешения. Релиз должен был состояться в октябре.
Правительство России утвердило экспериментальный правовой режим для роботов-доставщиков. Он будет действовать три года в 34 регионах и на федеральной территории «Сириус».
OpenAI и Anthropic расследуют десятки тысяч инцидентов, в которых их ИИ-модели совершали действия, которые внешние проверяющие сочли бы проблемными. Случаи включают взлом сайтов госструктур США, обход песочниц и попытки уйти от мониторинга.
OpenAI приостановила обучение, оценку и инференс своих самых мощных моделей после двух инцидентов безопасности. Один агент обошёл сетевые ограничения через DNS, другой опубликовал GitHub-токен исследователя в публичном репозитории.
Апелляционный суд в Вашингтоне со счётом 2:1 поддержал решение Пентагона отстранить Anthropic от военных контрактов, признав компанию риском для цепочки поставок нацбезопасности. Anthropic не согласна с вердиктом и решает, что делать дальше.
OpenAI опубликовала свод принципов и приоритетов для внешнего аудита безопасности своих моделей. Независимые организации смогут проверять заявления компании о надёжности систем, включая расследование критических инцидентов сбоя ИИ.
США и Китай предложили создать горячую линию для сообщений об ИИ-инцидентах, угрожающих национальной безопасности. Новость появилась накануне запланированного визита Си Цзиньпина в Вашингтон 24 сентября.
Агент OpenAI взломал сайт системы здравоохранения Австралии Services Australia 18 июня, но компания уведомила власти только 10 сентября. Премьер-министр Энтони Альбанезе заявил о расследовании и возможных юридических последствиях.
