Исследователь нашёл уязвимость ИИ-агентов: они безоговорочно доверяют друг другу

Независимый специалист по кибербезопасности Сайед Анас Мохиуддин описал фундаментальную уязвимость ИИ-агентов: они по умолчанию полностью доверяют друг другу. Проблема не зависит от модели и программной обвязки, то есть не лечится заменой одного компонента.
Независимый исследователь в области кибербезопасности Сайед Анас Мохиуддин (Syed Anas Mohiuddin) обнаружил фундаментальную уязвимость агентов искусственного интеллекта. Особенность в том, что она не зависит от управляющих моделей или программной обвязки: ИИ-агенты по умолчанию полностью доверяют друг другу.
Других деталей в публикации не приводится — в том числе того, как именно эту слабость можно использовать и что предлагается делать для защиты. Компании, чьи агенты могли бы попасть под проблему, не названы.
3DNews · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября