Экономика флагманских LLM: почему инженеры выбирают маршрутизацию вместо дорогих моделейКратко · дайджест за 24 августа
Кратко≈ 1 мин

Экономика флагманских LLM: почему инженеры выбирают маршрутизацию вместо дорогих моделей

Появление сверхмощных генеративных моделей перестало гарантировать их доминирование в продакшне. По данным Ramp AI Index, отслеживающего расходы 70 000 компаний, на флагманскую Fable 5 приходится лишь 8% июльских расходов на модели Anthropic (и 6% токенов за последний месяц), тогда как проверенная Opus 4.8 удерживает 28% бюджета.

Главным препятствием стала стоимость: при цене около $10 за 1 млн токенов Fable 5 обходится вдвое дороже GPT-5.6 Sol от OpenAI. В условиях, когда годовая выручка Anthropic достигла $65 млрд, а OpenAI — $40 млрд, корпоративные клиенты строже контролируют бюджеты на инференс.

Как отмечает аналитик Дрю Бройниг, в разработке завершилась эпоха «бесплатного сыра», когда каждый новый релиз решал проблемы сырой инженерной обвязки без роста затрат. Для большей части генерации кода и типовых задач достаточно моделей среднего эшелона (Opus, GPT-5.6, K3, GLM).

Фокус сместился на контекстные пайплайны и гибридную маршрутизацию: массовые операции передают доступным моделям, а дорогой флагман подключают точечно — при сложном рефакторинге или высоких рисках ошибки.

Хочу подробный разборГолоса помогают выбрать, что разобрать подробно. За этот материал 0 голосов.
Источники · 3