BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ии3DNews

ИИ-агенты потребляют в 15 раз больше токенов, чем люди — это усиливает позиции китайских моделей

ИИ-агенты потребляют в 15 раз больше токенов, чем люди — это усиливает позиции китайских моделей

Аналитики обнаружили, что ИИ-агенты расходуют в 15 раз больше токенов по сравнению с человеком при выполнении задач. Это делает стоимость вычислений ключевым фактором и дает преимущество недорогим китайским моделям, которые могут занять значительную долю рынка.

Исследователи проанализировали структуру потребления токенов в системах на основе больших языковых моделей и пришли к выводу, что ИИ-агенты расходуют в 15 раз больше токенов, чем человек, выполняющий аналогичную задачу. Ранее считалось, что разница составляет пятикратную величину.

Рост числа автономных агентов, способных заменять нескольких сотрудников, увеличивает нагрузку на вычислительные мощности. Каждое действие агента — от планирования до выполнения подзадач — требует отдельного обращения к модели, что приводит к многократному росту расхода токенов по сравнению с прямым диалогом человека с нейросетью.

Почему это выгодно китайским провайдерам

Поскольку цена вычислений становится определяющим фактором для массового внедрения агентов, недорогие китайские модели получают рыночное преимущество. Провайдеры из КНР предлагают API-доступ по ценам, значительно ниже американских аналогов, при сопоставимом качестве на ряде задач.

Это может привести к перераспределению спроса: компании, которые строят автоматизированные пайплайны на базе ИИ-агентов, будут оптимизировать затраты и уходить на более дешёвые платформы. Аналитики связывают это с общим трендом на снижение стоимости инференса и ростом конкуренции между поставщиками моделей.

Источник

3DNews · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме