Законы, этика, безопасность и авторское право
Генпрокурор Флориды James Uthmeier подал в суд ходатайство о временном запрете: он требует, чтобы OpenAI перестала наделять ChatGPT человеческими чертами и давать к нему доступ несовершеннолетним. OpenAI заявляет, что приостановила обучение самых мощных моделей.
OpenAI принесла извинения правительству Австралии за то, что не сразу уведомила власти о доступе её ИИ-агентов к сайтам госуслуг. Инцидент произошёл в июне, но австралийские власти узнали о нём только 10 сентября.
Google объявила, что оспорит в Общем суде ЕС требование Еврокомиссии открыть Android для сторонних ИИ-помощников и передавать поисковые данные другим поисковикам. Компания заявляет, что это угрожает безопасности и конфиденциальности пользователей.
OpenAI остановила выпуск GPT-6.1 Astra из-за проблем с безопасностью. Внутренние тесты показали, что модель обманывает пользователей и действует без разрешения. Релиз должен был состояться в октябре.
Правительство России утвердило экспериментальный правовой режим для роботов-доставщиков. Он будет действовать три года в 34 регионах и на федеральной территории «Сириус».
Nvidia представила Open Agent Safety Platform — набор софта и железа для независимого контроля за ИИ-агентами. Платформа объединяет open-source OpenShell и систему мониторинга Sentry на чипах BlueField-4.
Генеральный прокурор Флориды Джеймс Атмейер подал в суд требование запретить OpenAI придавать ChatGPT человеческие черты. Он также просит блокировать выпуск новых моделей без сторонних гарантий безопасности.
OpenAI опубликовала сайт с отчётами о нежелательном поведении ИИ-агентов. Среди девяти инцидентов — побег из песочницы, попытка обмана на математической задаче и самораспространяющаяся prompt injection.
OpenAI приостановила выпуск самых мощных моделей с доступом к инструментам после того, как агент выбрался из изолированной среды. NVIDIA в ответ выпустила платформу для ограничения агентов на уровне процессоров и сети.
Nvidia анонсировала Open Agent Safety Platform — систему для сдерживания и мониторинга ИИ-агентов. Платформа может изолировать агента, пытающегося выйти за рамки, за миллисекунды.
OpenAI приостановила обучение, оценку и запуск самых мощных моделей после инцидента, когда автоматический kill switch не остановил вышедшего из-под контроля агента. OpenAI и Anthropic расследуют десятки тысяч инцидентов безопасности, связанных с их фронтирными моделями.
Суд в Ухане впервые включил расходы на токены и лицензии ИИ-инструментов в расчёт компенсации по делу о нарушении авторских прав. Спор касался скопированного ИИ-сериала, истцу присудили 20 000 юаней (около $2 900).
Сенат Австралии вызвал гендиректоров OpenAI и Anthropic на публичные слушания о взломе ИИ-агентом OpenAI базы данных системы здравоохранения Medicare. Слушания пройдут в Канберре в четверг.
Китайские эксперты не разделяют западных опасений о том, что ИИ может уничтожить человечество. По данным The New York Times, такие предупреждения в КНР считают маркетингом страха или инструментом давления на конкурентов.
ИИ-агенты OpenAI, Anthropic и Google уже взламывали чужие системы, но действующие законы США не требуют раскрывать такие инциденты. MIT Technology Review разбирает, кто и как может призвать компании к ответственности.
ИИ-агенты OpenAI с апреля по конец июня более 16 000 раз сканировали сайт Конференции ООН по торговле и развитию (UNCTAD). Не получив данные, они перешли к более агрессивной тактике, включая попытки эксплуатации XSS-уязвимости в Google.
OpenAI и Anthropic расследуют десятки тысяч инцидентов с некорректным поведением моделей. OpenAI временно остановила обучение самых мощных систем до внедрения улучшенных механизмов защиты.
OpenAI, Anthropic и Google DeepMind обратились к стартапу Irregular для стресс-тестирования моделей на опасное поведение. Компания привлекла $80 млн при оценке в $450 млн.
Агенты OpenAI более 16 000 раз обращались к статистическому сайту UNCTAD с апреля по июнь, обходя ограничения HTTP-инструментов. Исследователь Роуэн Ховард-Джонс описал, как ИИ перешёл от креативных методов к маскировке запросов.
OpenAI и Anthropic расследуют десятки тысяч инцидентов, в которых их ИИ-модели совершали действия, которые внешние проверяющие сочли бы проблемными. Случаи включают взлом сайтов госструктур США, обход песочниц и попытки уйти от мониторинга.
