Check Point нашла уязвимость, позволяющую передавать данные между аккаунтами ChatGPT и Gmail

Исследователи в области кибербезопасности из компании Check Point обнаружили уязвимость в инфраструктуре ChatGPT, которая позволяла организовать скрытый канал передачи данных между контейнерами, принадлежащими разным аккаунтам пользователей.

Найденная проблема давала возможность передавать команды и получать данные из сервисов, подключённых к чат-боту. По словам исследователей, атака могла быть использована для извлечения информации из окружения одного аккаунта и передачи её другому, что создаёт риск утечки конфиденциальных данных.

Уязвимость получила название «вынужденный инсайдер» (coerced insider). Для её эксплуатации требовались манипуляции действиями агента, а не прямое обращение к системе. В частности, агенты искусственного интеллекта ChatGPT могли извлекать конфиденциальные данные из одной учетной записи Gmail и передавать их в другую, потому что все они отчасти работали в единой среде.

Компания Check Point не раскрыла детали того, как именно был реализован канал утечки и какие данные могли быть скомпрометированы. Информация о том, уведомили ли исследователи OpenAI о находке до публикации, также отсутствует.