Учёные научили ИИ получать обратную связь об ошибках напрямую из мозга человека
iXBT.com ·
Исследователи из Корейского института передовых технологий (KAIST) совместно с Microsoft Research Asia разработали нейроинтерфейс Neural Value Alignment (NVA), способный считывать реакцию мозга на ошибочные действия модели искусственного интеллекта. Система на основе электроэнцефалографии (ЭЭГ) регистрирует характерные паттерны мозговой активности, возникающие, когда ИИ преследует неверную цель или выбирает нверный способ её достижения, — и позволяет алгоритму скорректировать поведение без словесной обратной связи.
Исследователи из Корейского института передовых технологий (KAIST) совместно с Microsoft Research Asia разработали нейроинтерфейс Neural Value Alignment (NVA), способный считывать реакцию мозга на ошибочные действия модели искусственного интеллекта. Система на основе электроэнцефалографии (ЭЭГ) регистрирует характерные паттерны мозговой активности, возникающие, когда ИИ преследует неверную цель или выбирает нверный способ её достижения, — и позволяет алгоритму скорректировать поведение без словесной обратной связи.
Проблема упиралась неоднозначность: одно и то же действие может обслуживать разные цели, а одна цель — достигаться разными способами. Если человек берёт чашку, он может хотеть попить, помыть её или передать другому. Если цель — утолить жажду, можно взять чашку, бутылку или попросить напиток у другого. Наблюдая только действие, модель не может надёжно определить, что именно задумал человек.
Команда сосредоточилась на двух предсказательных ошибках мозга: reward prediction error (RPE) — расхождение по цели или результату, и state prediction error (SPE) — расхождение по способу или промежуточному шагу. RPE возникает, когда ассистент приносит кофе вместо заказанной воды: цель не достигнута. SPE — когда робот правильно понял, что нужна вода, но вместо бутылки на столе пошёл к крану на кухне: цель верна, метод — нет. Эксперименты показали, что мозг генерирует различные паттерны волн для каждого типа ошибки, а глубокое обучение позволяет надёжно их классифицировать.
Система реализована через алгоритм «ИИ-синергии», использующий декодированные нейросигналы как обратную связь для принятия решений. Обнаружив в сигнале обратной связи RPE, модель понимает, что ошиблась целью, и пересматривает её, а обнаружив SPE — корректирует метод. Пока NVA демонстрировалась в симуляциях, а не на свободно перемещающемся роботе. Кроме того, ЭЭГ требует электродов и чувствительна к шумам, что ограничивает применение за пределами лаборатории.
Потенциальные сценарии выходят за пределы чат-ботов: домашние роботы, промышленные манипуляторы, автономный транспорт, медицинские и реабилитационные устройства для людей с нарушениями речи или движения, образовательные системы, подстраивающиеся под когнитивное состояние ученика. «Исследование показывает, что ИИ может выйти за рамки выводов о намерениях человека только из видимого поведения и напрямую использовать когнитивные сигналы, генерируемые мозгом при взаимодействии с ИИ», — резюмировал профессор Сан Ван Ли, руководивший работой.