BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ииХабр ИИ

Разработчик сократил расход токенов AI-агентов на 4,5 млн за счёт обсуждения перед правками

Разработчик сократил расход токенов AI-агентов на 4,5 млн за счёт обсуждения перед правками

Разработчик встроил в работу четырёх AI-агентов этап обсуждения перед первой правкой кода. Схема проверена в 480 запусках: это помогло сэкономить 4,5 млн токенов и выявить ошибку, из-за которой агенты спорили, не имея возможности сравнить ответы.

Разработчик нашёл способ сократить расход токенов у четырёх AI-агентов, которые совместно работали над кодом. Оказалось, что агенты тратили значительную часть вычислительного бюджета на бесконечные споры, защищая свои первоначальные варианты решения. Проблема усугублялась тем, что неудачное решение обрастало новыми «костылями», пока модель продолжала настаивать на первой догадке.

Суть решения

Вместо того чтобы позволять агентам сразу вносить правки и спорить о результате, разработчик добавил этап коллективного обсуждения. Четыре роли обсуждают задачу и подход к её решению до того, как будет сделана первая правка кода. Такой порядок позволяет выявить слабые места ещё на этапе планирования, а не после внесения изменений.

Результаты тестирования

Схему проверили в 480 запусках. По итогам удалось сэкономить 4,5 млн токенов. Кроме того, тестирование помогло обнаружить ошибку в самой конфигурации: агенты продолжали спорить даже в тех случаях, когда их ответы ещё нельзя было корректно сравнить между собой. Эта находка позволила доработать логику и останавливать обсуждение вовремя.

Источник

Хабр ИИ · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме