Все материалы по теме в хронологическом порядке.
Создатель Redis Сальваторе Санфилиппо (antirez) представил ds4 — движок на C для локального запуска открытых LLM на Mac, CUDA и ROCm. Поддерживаются DeepSeek V4 и V4.1 Flash, GLM 5.x и Qwen3.8 Flash Next.
На Хабре вышла статья о том, как устроена инфраструктура для запуска больших языковых моделей. Автор объясняет, почему расчёт «размер модели делить на память одной карты» не работает и какие компоненты определяют скорость ответа.
В открытый доступ выложили библиотеку FAIRouter — она автоматически подбирает LLM-исполнителя под конкретный запрос, а после ответа проверяет его с помощью модели-судьи. Код распространяется под лицензией Apache 2.0.
Руководитель ИИ-проектов Игорь Зуриев рассказал, как выбирать LLM для рабочих задач. Он предлагает оценивать модели не по бенчмаркам, а по трём критериям: результат, объём ручных правок и проверяемость.
Исследователи представили SWE-Adept — фреймворк из двух LLM-агентов для работы с большими кодовыми базами. Один агент ищет проблемные места, второй вносит исправления. На бенчмарках SWE-Bench Lite и Pro система улучшила end-to-end resolve rate до 4,3%.
Малые языковые модели (SLM) всё чаще рассматривают как дешёвую альтернативу LLM. Разбираем, где они действительно полезны, а где пока уступают крупным моделям.
Исследователи нашли в 25 языковых моделях с открытыми весами внутреннее направление активаций, которое связали с состоянием, похожим на боль. При его усилении модели чаще выбирали облегчение, даже если это вредило пользователю.
Физик и научный писатель Мэтт фон Хиппель предложил ИИ-компаниям решить сложную вычислительную задачу из теоретической физики. Через месяц Anthropic сообщила, что Claude справился с расчётом амплитуды рассеяния в модели N=4 суперсимметричной теории Янга — Миллса до девяти петель.
Два криптоаналитика расшифровали давно нерешённые сообщения Enigma с помощью LLM от OpenAI и Anthropic. Решения уже проверил архивист Crypto Cellar Фроде Вейеруд.
Для разных задач нужны разные ИИ-модели: одни быстрее и дешевле, другие точнее в анализе или кодинге. Маршрутизация помогает распределять запросы между моделями, чтобы не платить за избыточную мощность.
Крупные заказчики перешли от запроса «прокси для ChatGPT» к матрице из более чем 500 формализованных требований к защите генеративного ИИ. В неё входят контроль ИИ-агентов, MCP, соответствие 152-ФЗ и управление расходом токенов.
Альфа-Банк рассказал, как использует LLM не как генератор, а как энкодер для классификации текстов. На четырёх внутренних доменах банка сравнили LLM-бэкбоны с классическими BERT-моделями.
Учёные провели 62 808 оценок шести ведущих моделей на четырёх бенчмарках безопасности. Оказалось, что способ измерения влияет на результат в 45 раз сильнее, чем архитектура скаффолда вокруг модели.
Yandex Research исследует, как сделать LLM-агента интерактивным без переобучения модели — за счёт манипуляций с KV-кешем. Подход описан в работах Hogwild Inference и AsyncReasoning.
Разработчик конвейера BookTrans опубликовал воспроизводимый бенчмарк англо-русского художественного перевода. Лучший результат показала GPT-6 Astra — 90 баллов из 100, у Gemini 3.8 Flash 88. Китайские модели GLM 5.3 и DeepSeek V4 Flash обошли флагманы Claude.
Каталог кейсов внедрения ИИ в России набрал 1352 проекта в компаниях и госорганах. Авторы статьи из АНО «Цифровые платформы» разобрали шесть паттернов: качество модели почти никогда не решает, а решает обвязка вокруг неё.
AI-лаборатория PrismML создала версию своей крошечной языковой модели для умных очков на чипах Qualcomm Snapdragon. На саммите Snapdragon Summit чипмейкер показал 1-битную модель Bonsai, которая работает локально на очках с платформой AR1 Gen 1.
LLM Mercury 2.5 показала скорость генерации 770 токенов в секунду в замерах Artificial Analysis. Модель оценивается по Intelligence Index v4.3.2, который включает 10 бенчмарков.
