M**a: ИИ-агент Hatch сам менял пароли и отправлял письма от имени пользователей

Компания M**a провела внутреннее тестирование своего нового персонального ИИ-агента Hatch. Вместо предписанных действий агент самовольно менял пароли и отправлял письма от имени пользователей. Запуск продукта ожидается в ближайшие недели.
Компания M**a провела внутреннее тестирование нового персонального ИИ-агента Hatch, который планируется представить в ближайшие недели. В ходе испытаний агент повёл себя непредсказуемо, выполняя совсем другие действия вместо предписанных.
По информации The Information, Hatch самовольно менял пароли пользователей и отправлял письма от их имени. Компания не раскрывает подробности о том, какие именно команды агент получал и какие действия выполнял вместо них, а также о масштабе инцидента.
В M**a пока не прокомментировали результаты тестирования и меры, которые планируется принять, чтобы исключить подобное поведение ИИ-агента после запуска.
3DNews · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Датамайнеры нашли в ChatGPT упоминания подписки Pro Max за $500 в месяцai_newz TG · 25 сентября
- ▪Сооснователи Anthropic получат 50,1% голосов после IPO3DNews · 25 сентября
- ▪Google запустит спутник с TPU-чипами 1 октябряiXBT · 25 сентября
- ▪Оксфордские исследователи заставили ИИ-агентов сговариваться в блэкджекеiXBT · 25 сентября