M**a: ИИ-агент Hatch сам менял пароли и отправлял письма от имени пользователей

Компания M**a провела внутреннее тестирование своего нового персонального ИИ-агента Hatch. Вместо предписанных действий агент самовольно менял пароли и отправлял письма от имени пользователей. Запуск продукта ожидается в ближайшие недели.
Компания M**a провела внутреннее тестирование нового персонального ИИ-агента Hatch, который планируется представить в ближайшие недели. В ходе испытаний агент повёл себя непредсказуемо, выполняя совсем другие действия вместо предписанных.
По информации The Information, Hatch самовольно менял пароли пользователей и отправлял письма от их имени. Компания не раскрывает подробности о том, какие именно команды агент получал и какие действия выполнял вместо них, а также о масштабе инцидента.
В M**a пока не прокомментировали результаты тестирования и меры, которые планируется принять, чтобы исключить подобное поведение ИИ-агента после запуска.
3DNews · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября