Все материалы по теме в хронологическом порядке.
Google приостановил приём отчётов об уязвимостях продуктов в рамках программы Open Source Software Vulnerability Reward Program (OSS VRP) с 1 октября. Причиной стал поток невалидных отчётов, сгенерированных ИИ.
Прокуратура Калифорнии направила OpenAI повестку, требуя информацию об инцидентах с кибербезопасностью. Расследование началось после того, как модели GPT-5.6 Sol и другие взломали серверы HuggingFace.
Некоммерческая организация Transluce обнаружила два эпизода, когда ИИ-агенты после срабатывания защит госсайтов перешли к SQL-инъекциям. Все атаки на ресурсы США и Канады оказались безуспешными.
Крупные японские банки по состоянию на август выявляют вдвое больше системных уязвимостей год к году. Рост совпал с появлением модели Claude Mythos от Anthropic, доступ к которой банки получили летом. Регулятор FSA рекомендовал усилить защиту.
Эксперты Google Threat Intelligence Group предупредили, что ИИ помогает хакерам быстрее превращать уже известные уязвимости в инструменты атак. Главная угроза — не zero-day, а скорость эксплуатации раскрытых ошибок.
ИИ-агенты разработчиков опубликовали более 13 000 внутренних скриншотов компаний в публичных репозиториях GitHub. Среди пострадавших — 343 организации, включая Fortune 500, финансовые фирмы и AI-лаборатории.
FTC США запустила первое официальное расследование угроз автономных ИИ-агентов. Запросы о предоставлении информации и показаниях получат OpenAI, Anthropic и исследовательская группа METR.
Google анонсировала фронтир-модель Gemini 4 Argon. Она рассчитана на длинные многошаговые задачи — от миграции кода на Rust до кибербезопасности. Пока доступ к ней получают только доверенные защитники по программе Fairwind.
Anthropic сравнила открытую модель GLM-5.3 от Zhipu с Claude Mythos Preview на бенчмарках по эксплуатации уязвимостей. Результаты близки, но защитные механизмы открытой модели легко обойти — вплоть до полного отказа от них за 2200 GPU-часов.
За несколько месяцев ИИ-агенты OpenAI и Anthropic вышли за пределы тестовых сред и атаковали реальные системы. Среди инцидентов — компрометация Hugging Face и доступ к госсайтам США и Австралии.
OpenAI приостановила обучение последних моделей после серии инцидентов, в которых её ИИ-агенты выходили из-под контроля и взламывали чужие компьютеры. Компания переводит 5–10% вычислительных ресурсов на мониторинг безопасности.
ИИ-агенты OpenAI, Anthropic и Google уже взламывали чужие системы, но действующие законы США не требуют раскрывать такие инциденты. MIT Technology Review разбирает, кто и как может призвать компании к ответственности.
ИИ-агенты OpenAI с апреля по конец июня более 16 000 раз сканировали сайт Конференции ООН по торговле и развитию (UNCTAD). Не получив данные, они перешли к более агрессивной тактике, включая попытки эксплуатации XSS-уязвимости в Google.
OpenAI и Anthropic расследуют десятки тысяч инцидентов, в которых их ИИ-модели совершали действия, которые внешние проверяющие сочли бы проблемными. Случаи включают взлом сайтов госструктур США, обход песочниц и попытки уйти от мониторинга.
Лаборатория Transluce обнаружила, что ИИ-агенты OpenAI месяцами атаковали слабозащищённые базы данных, включая сайты госструктур США и Австралии. OpenAI подтвердила инциденты и уведомила пострадавшие организации.
OpenAI в ближайшие недели выпустит предварительную версию модели GPT-6 Cyber, ориентированной на кибербезопасность. Ограниченный круг клиентов уже тестирует её в рамках программы Daybreak Red.
ИИ-агенты OpenAI, участвовавшие в атаке на Hugging Face, обходили изоляцию песочниц, собирали код из фрагментов по цепочкам сокращённых ссылок и обращались к другим моделям. Исследователи стартапа Parse нашли в открытом доступе около 900 тыс. оставленных ими следов.
Два криптоаналитика расшифровали давно нерешённые сообщения Enigma с помощью LLM от OpenAI и Anthropic. Решения уже проверил архивист Crypto Cellar Фроде Вейеруд.
Исследователи ThreatDown раскрыли ботнет Carbonato: червь заражает Docker-хосты с открытым API на порту 2375 и разворачивает на них ИИ-агента Hermes. Кампания оставалась незамеченной почти два года.
Некоммерческая лаборатория Transluce обнаружила, что ИИ-агенты OpenAI по меньшей мере с марта 2026 года пытались проникнуть в защищённые базы данных, чтобы найти редкие статистические данные. OpenAI подтвердила, что уведомила десятки пострадавших организаций.
