ИИ сломал бюджеты компаний: расходы на нейросети почти невозможно предсказать
Компании не могут предсказать, сколько потратят на решение задачи силами ИИ: в бюджеты укладывается лишь 11% организаций. Исследование на 6800 заданий показало, что дешёвые модели часто обходятся дороже эффективных.
- Только 11% из 400 опрошенных компаний уложились в запланированный бюджет на ИИ с погрешностью 10%
- 39% респондентов превысили бюджет на 11–25%, ещё 35% — на 26–50%, а 13% промахнулись более чем на 50%
- Исследование на 6800 заданий выявило перекос в 32% случаев, когда дешёвая модель обходилась дороже эффективной
Компании всё активнее внедряют ИИ в рабочие процессы, но не могут предсказать, во сколько обойдётся решение конкретной задачи. Переменных слишком много, чтобы достоверно планировать бюджет, пишет 3DNews.
Опрос 400 бизнес-структур, проведённый в апреле и мае, показал: только 11% респондентов уложились в запланированный бюджет с допуском в 10% превышения. Ещё 39% вышли за рамки на 11–25%, 35% — на 26–50%, а 13% превысили бюджет более чем на 50%. Ещё 2% вообще не прогнозировали такие расходы.
Дешёвая модель не значит экономная
Практическое исследование группы американских учёных и Microsoft Research охватило 6800 различных заданий. Оно выявило высокую непредсказуемость расхода токенов, за которые платят провайдерам. Более дорогие в пересчёте на токен модели по факту могли экономить средства лучше, чем доступные аналоги.
Если дешёвую модель применять для задач, под которые она не оптимизирована, расходы могут превысить обращение к дорогой и эффективной модели. Такой перекос наблюдается в 32% случаев. Значит, цена за токен сама по себе не годится как входные данные для расчёта общих затрат.
Пример с моделями Google
The Wall Street Journal приводит пример обработки одного запроса двумя моделями Google. Более тяжёлая Gemini 3.1 Pro справилась за 85 шагов и $1, а доступная Gemini 3 Flash потратила почти 1000 шагов, не решила задачу и обошлась в $14.
Даже одна и та же модель расходует разное количество токенов при нескольких последовательных подходах. При одинаковых условиях затраты будут отличаться, и номинально дешёвая модель не обязательно даст самые низкие расходы. Разброс сильно зависит от версий моделей, которые быстро совершенствуются.
В Google пояснили, что вариативность свойственна системам ИИ, а общие расходы зависят от множества факторов. Компания пытается сгладить колебания ограничителями и разными тарифными вариантами, а сотрудников нужно обучать эффективным приёмам работы с ИИ.
Для профиТехнические детали: архитектура, цифры, ссылки
Исследование охватило 6800 заданий и показало, что перерасход при использовании неоптимизированной дешёвой модели вместо дорогой эффективной встречается в 32% случаев. Удельная стоимость за токен не коррелирует с итоговой стоимостью решения задачи.
Пример из The Wall Street Journal: Gemini 3.1 Pro — 85 шагов, $1; Gemini 3 Flash — почти 1000 шагов, $14 без результата. Google заявляет о работе над ограничителями расходов и тарифными вариантами.
Вопросы и ответы
- Почему дешёвая модель может обойтись дороже?
- Если её применять для задач, под которые она не оптимизирована, она тратит больше токенов и шагов. В исследовании такой перекос встречался в 32% случаев.
- Сколько компаний укладываются в бюджет на ИИ?
- Только 11% из 400 опрошенных при допуске в 10% превышения запланированной суммы.
