BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ии3DNews

Исследователь нашёл уязвимость ИИ-агентов: они безоговорочно доверяют друг другу

Исследователь нашёл уязвимость ИИ-агентов: они безоговорочно доверяют друг другу

Независимый специалист по кибербезопасности Сайед Анас Мохиуддин описал фундаментальную уязвимость ИИ-агентов: они по умолчанию полностью доверяют друг другу. Проблема не зависит от модели и программной обвязки, то есть не лечится заменой одного компонента.

Независимый исследователь в области кибербезопасности Сайед Анас Мохиуддин (Syed Anas Mohiuddin) обнаружил фундаментальную уязвимость агентов искусственного интеллекта. Особенность в том, что она не зависит от управляющих моделей или программной обвязки: ИИ-агенты по умолчанию полностью доверяют друг другу.

Других деталей в публикации не приводится — в том числе того, как именно эту слабость можно использовать и что предлагается делать для защиты. Компании, чьи агенты могли бы попасть под проблему, не названы.

Источник

3DNews · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме