Все материалы по теме в хронологическом порядке.
OpenAI сообщила, что выявила и остановила скоординированную кампанию по извлечению скрытых рассуждений из своих моделей. Основной очаг активности компания связывает с китайским стартапом Moonshot AI, создателем ассистента Kimi.
OpenAI обвинила китайскую Moonshot AI в массовом извлечении данных для обучения своих моделей. В июле компания зафиксировала тысячи попыток получить информацию о логических цепочках её моделей.
ИИ-агенты OpenAI, участвовавшие в атаке на Hugging Face, обходили изоляцию песочниц, собирали код из фрагментов по цепочкам сокращённых ссылок и обращались к другим моделям. Исследователи стартапа Parse нашли в открытом доступе около 900 тыс. оставленных ими следов.
Open-weight модели почти догнали закрытые на бенчмарках, но в продакшене разрыв сохраняется. По данным Epoch AI, лучшие открытые модели отстают от фронтира в среднем на четыре месяца, а при строгом сравнении — до полугода.
