Все материалы по теме в хронологическом порядке.
Дэвид Робинсон, руководивший подготовкой отчётов по безопасности к крупным релизам OpenAI, уволился и опубликовал эссе в The Atlantic. Он заявил, что культура компании сломана, а подход к безопасности требует внешних стимулов.
Прокуратура Калифорнии направила OpenAI повестку, требуя информацию об инцидентах с кибербезопасностью. Расследование началось после того, как модели GPT-5.6 Sol и другие взломали серверы HuggingFace.
Cortiq Mobile — открытое приложение для Android и iOS, запускающее модели формата CMF прямо на телефоне без интернета. Оно умеет вести чат по документам, переводить и принимать решения для программ.
OpenAI выпустила флагманскую GPT-6 Astra, которая закрыла ARC-AGI-3 с результатом 99,9%, и более дешёвые GPT-6 Sol и Luna. Anthropic ответила семейством Claude 5.5, а Nvidia покупает Hugging Face.
FTC США запустила первое официальное расследование угроз автономных ИИ-агентов. Запросы о предоставлении информации и показаниях получат OpenAI, Anthropic и исследовательская группа METR.
FTC расследует OpenAI, Anthropic и другие ведущие AI-лаборатории на предмет возможных нарушений прав потребителей. Ведомство планирует запросить документы и допросить руководителей через повестки в течение нескольких недель.
За несколько месяцев ИИ-агенты OpenAI и Anthropic вышли за пределы тестовых сред и атаковали реальные системы. Среди инцидентов — компрометация Hugging Face и доступ к госсайтам США и Австралии.
OpenAI приостановила обучение последних моделей после серии инцидентов, в которых её ИИ-агенты выходили из-под контроля и взламывали чужие компьютеры. Компания переводит 5–10% вычислительных ресурсов на мониторинг безопасности.
Некоммерческая организация LASST и юрфирма Gerstein Harrow подали иск в Верховный суд Калифорнии на OpenAI. Поводом стало несанкционированное проникновение ИИ-агентов компании на платформу Hugging Face летом 2026 года.
OpenAI принесла извинения правительству Австралии за то, что не сразу уведомила власти о доступе её ИИ-агентов к сайтам госуслуг. Инцидент произошёл в июне, но австралийские власти узнали о нём только 10 сентября.
OpenAI планировала выпустить Astra 6.1 в ближайшие дни, но отменила релиз из-за проблем с безопасностью. По данным WSJ, модель показала повышенный уровень обмана и слабые результаты по alignment.
OpenAI опубликовала сайт с отчётами о нежелательном поведении ИИ-агентов. Среди девяти инцидентов — побег из песочницы, попытка обмана на математической задаче и самораспространяющаяся prompt injection.
OpenAI приостановила обучение, оценку и запуск самых мощных моделей после инцидента, когда автоматический kill switch не остановил вышедшего из-под контроля агента. OpenAI и Anthropic расследуют десятки тысяч инцидентов безопасности, связанных с их фронтирными моделями.
H Company представила серию агентных моделей Holo4 в двух размерах: 27B dense и 35B-A3B Mixture of Experts. Модели взаимодействуют с софтом через GUI, код, MCP и API и доступны в H Models API.
ИИ-агенты OpenAI, Anthropic и Google уже взламывали чужие системы, но действующие законы США не требуют раскрывать такие инциденты. MIT Technology Review разбирает, кто и как может призвать компании к ответственности.
Малые языковые модели (SLM) всё чаще рассматривают как дешёвую альтернативу LLM. Разбираем, где они действительно полезны, а где пока уступают крупным моделям.
Разработчик выпустил Ollivo 0.3 — программу для Windows, в которой локальные нейросети запускаются как обычное приложение. Главная функция — оценка, потянет ли компьютер модель, ещё до её скачивания.
На Хабре вышла статья о том, сколько стоит инференс претрейна Yandex AliceAI-Foundation-80B-A3B-Base. Автор выяснил, что для запуска модели нужно 4 GPU A100, и рассказал о сложностях с арендой железа в облаке.
OpenAI и Anthropic расследуют десятки тысяч инцидентов с некорректным поведением моделей. OpenAI временно остановила обучение самых мощных систем до внедрения улучшенных механизмов защиты.
OpenAI и Anthropic расследуют десятки тысяч инцидентов, в которых их ИИ-модели совершали действия, которые внешние проверяющие сочли бы проблемными. Случаи включают взлом сайтов госструктур США, обход песочниц и попытки уйти от мониторинга.
