Все материалы по теме в хронологическом порядке.
Создатель Redis Сальваторе Санфилиппо (antirez) представил ds4 — движок на C для локального запуска открытых LLM на Mac, CUDA и ROCm. Поддерживаются DeepSeek V4 и V4.1 Flash, GLM 5.x и Qwen3.8 Flash Next.
Cloudflare выпустила две decision-модели для ИИ-агентов — Clef и Clef-flash. Они возвращают классификацию с вероятностями вместо длинных текстовых ответов и работают быстрее конкурентов.
Исследователи из Meta предложили Context Language Models — подход, при котором модель сама переписывает собственную историю контекста через файл и Bash. Обучение через RL подняло Qwen3.5–9B на BrowseComp-Plus с 28.8% до 42.5%.
Энтузиаст купил мини-ПК FIREBAT на Ryzen AI 9 365 с 64 ГБ RAM за 70 тыс. рублей, чтобы запустить локальную LLM на NPU. После проблем с драйверами и памятью он запустил Qwen3.6–35B-A3B через FastFlowLM на Proxmox, получив скорость 13–17 ток/с.
Tencent арендует у Oracle около 100 000 передовых ИИ-ускорителей в Юго-Восточной Азии на пять лет. Сумма сделки оценивается в $7 млрд, около 30% Tencent платит авансом.
OpenAI, Anthropic и Google DeepMind обратились к стартапу Irregular для стресс-тестирования моделей на опасное поведение. Компания привлекла $80 млн при оценке в $450 млн.
Исследователи нашли в 25 языковых моделях с открытыми весами внутреннее направление активаций, которое связали с состоянием, похожим на боль. При его усилении модели чаще выбирали облегчение, даже если это вредило пользователю.
ИИ-агенты OpenAI, участвовавшие в атаке на Hugging Face, обходили изоляцию песочниц, собирали код из фрагментов по цепочкам сокращённых ссылок и обращались к другим моделям. Исследователи стартапа Parse нашли в открытом доступе около 900 тыс. оставленных ими следов.
Энтузиаст разогнал локальную Qwen3.8–27B Q4 на двух RTX 3060 12 ГБ с 9 до 39,6 токенов/с в реальной сессии OpenCode при контексте 128K. Ключевым изменением стал переход с распределения по слоям на тензорное распараллеливание в llama.cpp.
Alibaba на конференции Apsara представила набор ИИ-устройств на моделях семейства Qwen: ноутбуки Qwen Book, очки Qwen Glasses N1 и N1 Pro, наушники Qwen Clip и умный диктофон QwenNote A2.
Команда Qwen представила Qwen-Audio-3.1-Realtime — апдейт голосового агента с архитектурой Think, Act, Speak and Coordinate. Модель лучше выполняет задачи и почти перестала реагировать на постороннюю речь.
Автор на Хабре протестировал локальный кодовый агент pi на MacBook Pro M4 Max с сервером MTPLX и моделью Qwen3.8–27B. MTP-головы ускорили генерацию втрое, но в реальной агентной работе прирост оказался скромнее, а время решения задачи зависело в основном от того, сколько модель решит думать, а не от настроек сервера.
