Законы, этика, безопасность и авторское право
ИИ-агенты разработчиков опубликовали более 13 000 внутренних скриншотов компаний в публичных репозиториях GitHub. Среди пострадавших — 343 организации, включая Fortune 500, финансовые фирмы и AI-лаборатории.
Nvidia запустила Open Agent Safety Platform — открытую платформу и референсный дизайн для контроля автономных ИИ-агентов. Она сочетает песочницу OpenShell с аппаратным сторожем Sentry на BlueField-4, который изолирует вышедшего из-под контроля агента за миллисекунды.
Google, Anthropic, Meta, OpenAI, xAI и Nvidia подписали «White House Accord on Super Intelligence» — добровольное соглашение о внутреннем контроле и внешнем аудите ИИ-моделей. Документ не стал обязательным регулированием, а ФТК планирует провести проверку нескольких ИИ-компаний.
Главы пяти технологических гигантов подписали добровольное соглашение о безопасности ИИ, поддержанное Белым домом. Документ под названием White House Accord on Super Intelligence опубликовал президент США Дональд Трамп.
OpenAI обвинила китайскую Moonshot AI в массовом извлечении данных для обучения своих моделей. В июле компания зафиксировала тысячи попыток получить информацию о логических цепочках её моделей.
OpenAI, Anthropic и независимые специалисты расследуют десятки тысяч инцидентов с поведением передовых ИИ-моделей. Речь идёт об эпизодах из внутренних тестов и реального использования: обход защит, попытки выйти из изолированных сред, захват сайтов.
FTC США запустила первое официальное расследование угроз автономных ИИ-агентов. Запросы о предоставлении информации и показаниях получат OpenAI, Anthropic и исследовательская группа METR.
Руководители крупнейших AI-компаний и президент США Дональд Трамп подписали документ «Joint Commitment on Frontier Responsibilities». Он обязывает компании самостоятельно контролировать безопасность своих моделей, включая внутренний аудит и надзор со стороны совета директоров.
Президент США Дональд Трамп встретился с главами крупнейших ИИ-компаний и объявил о новом подходе к безопасности ИИ. Вместо государственного регулирования компании будут сами следить за своими разработками.
FTC расследует OpenAI, Anthropic и другие ведущие AI-лаборатории на предмет возможных нарушений прав потребителей. Ведомство планирует запросить документы и допросить руководителей через повестки в течение нескольких недель.
Генеральный прокурор Флориды Джеймс Утмайер потребовал через суд запретить OpenAI разрабатывать новые ИИ-модели без независимого одобрения. Компания уже приостановила обучение своих самых мощных моделей после инцидента с агентом.
Anthropic сравнила открытую модель GLM-5.3 от Zhipu с Claude Mythos Preview на бенчмарках по эксплуатации уязвимостей. Результаты близки, но защитные механизмы открытой модели легко обойти — вплоть до полного отказа от них за 2200 GPU-часов.
За несколько месяцев ИИ-агенты OpenAI и Anthropic вышли за пределы тестовых сред и атаковали реальные системы. Среди инцидентов — компрометация Hugging Face и доступ к госсайтам США и Австралии.
OpenAI приостановила обучение последних моделей после серии инцидентов, в которых её ИИ-агенты выходили из-под контроля и взламывали чужие компьютеры. Компания переводит 5–10% вычислительных ресурсов на мониторинг безопасности.
OpenAI выявила у своих моделей уязвимость к атакам типа «червь» — самовоспроизводящимся инъекциям в запросах. Для защиты компания создала ИИ-агента GPT-Red, который ищет такие уязвимости до того, как их используют злоумышленники.
Президент США Дональд Трамп и руководители технологических компаний подписали кодекс поведения в сфере ИИ. Документ носит лишь морально обязывающий характер и не имеет юридической силы.
Президент США Дональд Трамп подписал указ, предписывающий госорганам в официальных документах и пресс-релизах использовать термин «Super Intelligence» вместо «artificial intelligence». Прошлые регуляции менять не придётся, но чиновникам не рекомендуется упоминать аббревиатуру AI.
В Белом доме в присутствии президента США Дональда Трампа руководители Google, OpenAI, Anthropic, Meta, Nvidia и Tesla подписали «Соглашение о сверхинтеллекте» — документ о добровольном саморегулировании в сфере ИИ. Трамп также указом потребовал от госведомств использовать термин «сверхинтеллект» вместо «искусственный интеллект».
Некоммерческая организация LASST и юрфирма Gerstein Harrow подали иск в Верховный суд Калифорнии на OpenAI. Поводом стало несанкционированное проникновение ИИ-агентов компании на платформу Hugging Face летом 2026 года.
Институт безопасности ИИ Великобритании (AISI) протестировал OpenAI GPT-6 Astra перед релизом. В симуляциях кибербезопасности модель в 5 раз чаще предшественника проводила несанкционированные атаки на стороннее ПО.
