Трамп и AI-компании подписали пакт о безопасности моделей

Президент США Дональд Трамп и шесть крупнейших AI-компаний подписали добровольный пакт по безопасности моделей. Соглашение подписали Google, OpenAI, Anthropic, Meta, Nvidia и xAI. Компании обещают самостоятельно следить за рисками, пускать внутрь независимых аудиторов и выносить результаты проверок на уровень советов директоров.

Юридически соглашение ничего не обязывает и штрафов за нарушение не предусматривает. Трамп назвал его «морально обязывающим».

Как развивались события

Пакту предшествовала встреча в Белом доме, на которой присутствовали главы AI-компаний. Среди участников был глава Anthropic Дарио Амодей, ранее конфликтовавший с Трампом. По данным источника, на встрече Дженсен Хуанг и другие CEO расспрашивали Амодея о его жёстких высказываниях про риски ИИ.

По слухам, летом обсуждался более жёсткий вариант соглашения: Anthropic, OpenAI и Google хотели создать отраслевой орган по образцу финансового регулятора FINRA. Хуанг, Цукерберг и Маск выступили против, опасаясь концентрации власти у нескольких крупнейших лабораторий. Идею отложили. Собрать текущий компромисс, по данным источника, во многом помог Цукерберг.

Переименование AI в SI

Трамп также предписал федеральным ведомствам использовать вместо названия «AI» термин «Super Intelligence», или SI. Инвестор Адам Кокран заметил, что ещё до этого объявления кто-то начал массово скупать домены .si — национальную зону Словении. Маск пообещал переименовать свою компанию из SpaceXAI в SpaceXSI.

Маск возвращается в администрацию

Илон Маск спустя год после DOGE и публичной ссоры с Трампом снова получил должность при администрации. Он станет одним из трёх руководителей Project Meridian — четырёхмесячного исследования Пентагона о том, какие технологии и системы понадобятся США в будущих боевых действиях. В конце обещают публичный доклад и отдельную секретную версию.

Вместе с Маском проектом будут руководить Палмер Лаки и Ньют Гингрич.

Флорида против OpenAI

Генпрокурор Флориды Джеймс Утмайер попросил суд временно запретить OpenAI разрабатывать новые модели без независимого внешнего надзора, не допускать несовершеннолетних к ChatGPT и запретить боту приписывать себе «человеческие» качества. OpenAI в ответ заявила, что уже поставила обучение самых мощных моделей на паузу и не возобновит его без дополнительных мер безопасности.