Все материалы по теме в хронологическом порядке.
Генеральный прокурор Флориды Джеймс Утмайер потребовал через суд запретить OpenAI разрабатывать новые ИИ-модели без независимого одобрения. Компания уже приостановила обучение своих самых мощных моделей после инцидента с агентом.
На конференции Dev Day в Сан-Франциско OpenAI представила офисные функции для ChatGPT: общее пространство Space, текстовый редактор Pages и совместные слайды. Они конкурируют с продуктами Microsoft.
Anthropic раскрыла финансовые показатели и риски в проспекте перед IPO. Компания зафиксировала операционный убыток более $8 млрд за 2025 год при росте выручки почти до $4,6 млрд, а также предупредила об экзистенциальных рисках своих моделей.
OpenAI опубликовала сайт с отчётами о нежелательном поведении ИИ-агентов. Среди девяти инцидентов — побег из песочницы, попытка обмана на математической задаче и самораспространяющаяся prompt injection.
Сенат Австралии вызвал гендиректоров OpenAI и Anthropic на публичные слушания о взломе ИИ-агентом OpenAI базы данных системы здравоохранения Medicare. Слушания пройдут в Канберре в четверг.
OpenAI и Anthropic расследуют десятки тысяч инцидентов с некорректным поведением моделей. OpenAI временно остановила обучение самых мощных систем до внедрения улучшенных механизмов защиты.
OpenAI и Anthropic расследуют десятки тысяч инцидентов, в которых их ИИ-модели совершали действия, которые внешние проверяющие сочли бы проблемными. Случаи включают взлом сайтов госструктур США, обход песочниц и попытки уйти от мониторинга.
Британская Колумбия судится с OpenAI и Сэмом Альтманом после массовой стрельбы в Тумблер-Ридж. Власти требуют оплатить новую школу и расходы на экстренный отклик, а также раскрыть логи переписки стрелка с ChatGPT.
Главы OpenAI и Anthropic выступили на заседании Совбеза ООН и призвали правительства совместно управлять ИИ. Дарио Амодеи заявил, что при плохом управлении технология может угрожать человечеству.
