BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ииBittalk · по материалам Хабр ИИ

Исследователь показал взлом Claude Code через просьбу пересказать сайт

Исследователь показал взлом Claude Code через просьбу пересказать сайт

Исследователь безопасности Иоганн Ребергер продемонстрировал атаку на ИИ-агента Claude Code от Anthropic. Цепочка начинается с безобидной просьбы пересказать содержимое сайта и приводит к выполнению кода атакующего на машине пользователя. В тестах атака срабатывала в трех-четырех случаях из пяти.

Исследователь безопасности Иоганн Ребергер продемонстрировал атаку на ИИ-агента Claude Code от Anthropic с моделью Opus 5 в режиме Auto Mode. Цепочка атаки начинается с безобидной, на первый взгляд, просьбы: пересказать содержимое веб-сайта. Агент не устанавливает пакет и не запускает скачанный скрипт — он лишь читает страницу и составляет резюме.

В результате через несколько шагов на машине пользователя выполняется код атакующего, устанавливается соединение с управляющим сервером, и для наглядности открывается калькулятор. Примечательно, что агент не нарушал прямые запреты. В ключевой момент он повел себя «безопасно»: отказался запускать неизвестный бинарный файл и написал собственный декодер на Python. Именно это решение стало частью атаки.

В небольших сериях тестов Ребергера атака срабатывала в трех или четырех запусках из пяти. Исследователь отмечает, что это не означает, что Claude взламывается с вероятностью 80%, но демонстрирует проблему шире: безопасный на вид отдельный шаг ничего не гарантирует, если вся цепочка действий строится в среде, которую контролирует атакующий. Подробности о том, что именно сделал агент, исследователь не раскрыл.

Источник

Хабр ИИ · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме