Утечка данных о расходах на токенпокалипсис: обработка PDF как главный пожиратель API-бюджетовКратко · дайджест за 8 августа
Кратко≈ 1 мин

Утечка данных о расходах на токенпокалипсис: обработка PDF как главный пожиратель API-бюджетов

Утечка внутренних обсуждений руководства Accenture раскрыла главную причину перерасхода корпоративных ИИ-бюджетов. Из аудиозаписей следует, что основной объем расходов за API моделей генерируют не инженеры, а нетехнический персонал, массово загружающий PDF-документы.

Руководители направлений ИИ Джастис Квак и Стюарт Хендерсон отметили, что сотрудники загружают многостраничные PDF-файлы, которые нейросеть переводит в картинки высокой четкости и распознает в Markdown. Процесс распознавания сжигает миллионы токенов на документ без ощутимой ценности.

В ответ Accenture представила программу Tokenomics — методологию аудита, связывающую потребление токенов с бизнес-результатом.

Для снижения расходов компаниям рекомендуется внедрить гигиену работы с файлами:

  • Извлечение текста: извлекать текстовый слой из PDF локальными утилитами до отправки в мультимодальную модель.
  • Точечные фрагменты: передавать в ИИ только нужные страницы или таблицы вместо стостраничных отчетов.
  • Кэширование: сохранять раз распознанный Markdown в базе для повторного использования.

Аудит документных процессов предотвращает бессмысленное сжигание API-бюджетов при работе с ИИ.

Хочу подробный разборГолоса помогают выбрать, что разобрать подробно. За этот материал 0 голосов.
Источники · 2