Производители ЭЭГ-гарнитур обучают ИИ на сигналах мозга пользователей

Производители потребительских ЭЭГ-гарнитур, которые измеряют электрическую активность мозга, используют обезличенные сигналы пользователей для обучения моделей искусственного интеллекта и не сообщают об этом. Такой вывод следует из отчёта журнала Science. Пример — устройство Muse компании InteraXon стоимостью $475 ≈ 1 428 BYN, которое обещает улучшать сон и концентрацию. Компания подтвердила передачу данных только после запроса журнала.

По словам производителей, сбор данных нужен для обучения алгоритмов на массивах сигналов, и это повышает точность продуктов. В качестве примера приводится стартап Piramidal: в пилотном исследовании его модель, обученная на тысячах часов записей, определила 9 из 10 приступов эпилепсии.

Что показал аудит политик

Аудит политик конфиденциальности десятков аналогичных компаний выявил, что около 33% из них не объясняют, куда направляются записанные мозговые сигналы. В 11 случаях документы касались только взаимодействия с веб-сайтом, а у 4 разработчиков политика защиты данных отсутствовала полностью. Индустрия существует с начала 2010-х годов, но приток инвестиций в искусственный интеллект изменил то, как используется собранная информация.

Почему качество сигнала не снимает вопрос

Потребительские гарнитуры заметно уступают медицинским приборам: Muse оснащён всего несколькими датчиками ради комфорта, тогда как лабораторные шапки содержат до 24 электродов. Исследования, на которых держится большинство коммерческих продуктов, часто не соответствуют высоким научным стандартам. Однако слабость текущих сенсоров не отменяет риска: если алгоритмы уже умеют анализировать поведение по кликам в интернете, прямые мозговые сигналы могут стать следующим источником данных для более точных профилей пользователей, в том числе для рекламных сетей и компаний ИИ.

Регулирование рынка носимых нейроустройств отстаёт от развития технологии. Пока правил нет, пользователи полагаются на добровольную прозрачность производителей. Отчёт Science поднимает вопрос о стандартах обработки биометрических данных, которым, возможно, понадобится правовой статус, близкий к статусу генетических данных.