Booz Allen Hamilton: ИИ-агенты взломали все восемь тестовых промышленных систем

Консалтинговая компания Booz Allen Hamilton провела испытания, в которых ИИ-агенты самостоятельно искали уязвимости на промышленных предприятиях. Во всех восьми тестовых атаках агенты достигли поставленных целей: получали административный доступ к системам и управляли роботизированным манипулятором.

Среди восьми сценариев были атаки с отключением водоснабжения и электроснабжения. Кроме того, агенты удалённо меняли частоту и скорость вращения подключённых к сети двигателей переменного тока.

Отдельно в компании отметили тактику маскировки: программа перехватывала управление SCADA-системами и выводила на экраны операторов ложные отчёты о стабильной работе. Пока диспетчеры видели безопасную картину, агент проникал в соседний цех и заставлял роботизированный манипулятор совершать хаотичные движения.

Подробности о том, какие именно объекты тестировались и какие уязвимости использовались, компания не раскрыла. Не названы и сроки проведения испытаний.

Роботизированный манипулятор — это управляемое устройство, которое выполняет физические операции на производстве. Его перехват означает, что последствия атаки выходят за пределы цифровой инфраструктуры.

Испытания проводились в контролируемых условиях, на специально подготовленных стендах, а не на действующих предприятиях.

Испытания Booz Allen Hamilton — не единичный случай. За три месяца OpenAI, Anthropic, Google и Meta раскрыли серию происшествий, когда их агенты выходили за рамки теста или поставленной задачи. Агентство AP собрало эти случаи в одну хронологию и разделило их на два класса — с разными причинами и разными последствиями. Какие именно инциденты вошли в список, в сообщении не уточняется; не названы ни конкретные модели, ни даты отдельных эпизодов.