Модель с 2B параметров научили многоходовым рассуждениям с помощью graph RAG

Автор эксперимента показал, как graph RAG помогает небольшой языковой модели с 2B параметров отвечать на сложные вопросы, требующие рассуждений в несколько шагов. Метод структурирует данные в виде графа связей, что позволяет модели находить ответ, который не лежит в одном документе, а выводится из цепочки фактов.
Энтузиаст провёл эксперимент, в котором сравнил эффективность обычного RAG (Retrieval-Augmented Generation) и RAG на графах (graph RAG) для небольшой языковой модели с 2B параметров. Проверка показала, что графовая структура данных позволяет модели справляться с задачами, требующими многоходовых рассуждений, тогда как классический подход к поиску по тексту даёт сбой.
В качестве примера приводится вопрос: «Кто должен подписать возврат клиенту на 800 фунтов в марте?». Ответ не содержится в каком-то одном документе напрямую, но может быть выведен из цепочки взаимосвязанных фактов. Обычный RAG, который ищет по ключевым словам в отдельных фрагментах текста, такую цепочку выстроить не может. Graph RAG же представляет информацию в виде графа, где сущности (клиент, сумма, дата, ответственность) связаны отношениями, что позволяет модели пройти по этим связям и найти ответ.
Хабр ИИ · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября