KAIST и Microsoft Research научили ИИ считывать ошибки по сигналам мозга

Исследователи из Корейского института передовых технологий (KAIST) вместе с Microsoft Research Asia построили нейроинтерфейс Neural Value Alignment (NVA). Система на основе электроэнцефалографии (ЭЭГ) фиксирует характерные паттерны активности мозга и по ним определяет, ошиблась ли модель искусственного интеллекта в цели или в способе её достижения. После этого алгоритм меняет поведение — без словесной обратной связи от человека.

Сложность в том, что одно и то же действие может обслуживать разные цели, а одна цель достигается разными путями. Человек, который берёт чашку, может хотеть попить, помыть её или передать другому. Если задача — утолить жажду, подойдёт чашка, бутылка или просьба принести напиток. По одному только действию модель не может надёжно восстановить, что задумал человек.

Две ошибки, которые различает мозг

Команда работала с двумя типами предсказательных ошибок мозга. Reward prediction error (RPE) — расхождение по цели или результату: ассистент принёс кофе вместо воды, цель не достигнута. State prediction error (SPE) — расхождение по способу или промежуточному шагу: робот верно понял, что нужна вода, но пошёл к крану вместо бутылки на столе — цель правильная, метод нет.

Эксперименты показали, что мозг выдаёт разные паттерны волн для каждого типа ошибки, а глубокое обучение позволяет их надёжно классифицировать. Система построена на алгоритме «ИИ-синергии»: декодированные нейросигналы служат обратной связью для принятия решений. Получив сигнал RPE, модель понимает, что ошиблась целью, и пересматривает её; получив SPE — правит метод.

Где границы применимости

Пока NVA демонстрировалась в симуляциях, а не на роботе, который свободно перемещается в пространстве. ЭЭГ требует электродов и чувствительна к шумам, поэтому за пределами лаборатории применять её сложно.

Потенциальные сценарии шире чат-ботов: домашние роботы, промышленные манипуляторы, автономный транспорт, медицинские и реабилитационные устройства для людей с нарушениями речи или движения, образовательные системы, подстраивающиеся под когнитивное состояние ученика.

«Исследование показывает, что ИИ может выйти за рамки выводов о намерениях человека только из видимого поведения и напрямую использовать когнитивные сигналы, генерируемые мозгом при взаимодействии с ИИ», — сказал профессор Сан Ван Ли, руководивший работой.