Исследователь нашёл уязвимость ИИ-агентов: они безоговорочно доверяют друг другу
Независимый специалист по кибербезопасности Сайед Анас Мохиуддин описал фундаментальную уязвимость ИИ-агентов: они по умолчанию полностью доверяют друг другу. Проблема не зависит от модели и программной обвязки, то есть не лечится заменой одного компонента.
Независимый исследователь в области кибербезопасности Сайед Анас Мохиуддин (Syed Anas Mohiuddin) обнаружил фундаментальную уязвимость агентов искусственного интеллекта. Особенность в том, что она не зависит от управляющих моделей или программной обвязки: ИИ-агенты по умолчанию полностью доверяют друг другу.
Других деталей в публикации не приводится — в том числе того, как именно эту слабость можно использовать и что предлагается делать для защиты. Компании, чьи агенты могли бы попасть под проблему, не названы.
3DNews · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Bloomberg: Moonshot готовит IPO в Гонконге на $5 млрдForbes · 6 октября
- ▪Vals AI: агенты Claude Opus 5.5 нашли два полупроводника для памяти нового поколенияData Secrets TG · 6 октября
- ▪Минцифры направит 10 млрд рублей на российские ИИ-проектыХайтек · 6 октября
- ▪Кто-то разобрал бинарный формат TT4000 с помощью четырех нейросетейХабр ИИ · 6 октября