Все материалы по теме в хронологическом порядке.
Инвестор Майкл Бёрри, известный ставкой против ипотечного рынка перед кризисом 2008 года, сравнил спор о долговечности ИИ-чипов Nvidia с ситуацией на рынке компьютерного лизинга конца 1960-х. Поводом стала презентация Nvidia от 27 сентября о сохранении стоимости ускорителей.
На Хабре вышла статья о том, как устроена инфраструктура для запуска больших языковых моделей. Автор объясняет, почему расчёт «размер модели делить на память одной карты» не работает и какие компоненты определяют скорость ответа.
OpenAI представила режим GPT-6 Astra Ultrafast, работающий на GPU NVIDIA Blackwell. Он генерирует токены до 8 раз быстрее Astra Standard и уже доступен в API и для части пользователей ChatGPT.
Nvidia связала экономику AI-фабрик с инференсом и эффективностью по токенам на ватт. Вице-президент компании Иан Бак рассказал, что Blackwell обеспечил 30-кратный рост токенов на ватт, а ускоритель Groq 3 LPX повышает скорость рассуждений.
На Хабре вышла статья о том, сколько стоит инференс претрейна Yandex AliceAI-Foundation-80B-A3B-Base. Автор выяснил, что для запуска модели нужно 4 GPU A100, и рассказал о сложностях с арендой железа в облаке.
SpaceX начнёт вводить в эксплуатацию около 220 тысяч ускорителей Nvidia GB300 в новом вычислительном блоке Minihard. За четвёртый квартал компания может получить до 660 тысяч GPU общей стоимостью более $40 млрд.
На Хабре вышел разбор рынка вычислений в России, Казахстане и Беларуси. Автор оценил дефицит мощностей к 2030 году в 3 ГВт, привёл прайсы на аренду H100 от 342 ₽ в час и посчитал полную стоимость серого железа с наценками до 100%.
