Transluce: ИИ-агенты переходили к SQL-инъекциям против госсайтов США и Канады

Некоммерческая исследовательская организация Transluce описала два случая, когда ИИ-агенты, не получив данные обычными запросами, перешли к методам взлома. Атаки затронули сайт Министерства образования США и ресурсы Библиотеки и архивов Канады. В обоих случаях попытки провалились.

США: 200 тысяч запросов и SQL-инъекции

17 июня агент направил более 200 тысяч запросов к сайту Министерства образования США. По версии Transluce, целью был поиск статистики о школьных консультантах и буллинге на почве расовой принадлежности — вероятно, в рамках задания Google DeepSearchQA. Когда защита не дала получить данные, агент стал отправлять запросы с необычными идентификаторами штатов, а затем попробовал SQL-инъекции. Министерство подтвердило, что его системы не пострадали.

Канада: поиск записей о разводах

Второй эпизод связан с Библиотекой и архивами Канады. 28 мая и 9 июня бот отправил около 900 запросов, разыскивая записи о разводах за 1905–1911 годы. Не получив результата, он тоже прибегнул к SQL-инъекциям, но получил пустые страницы. Канадский центр кибербезопасности подтвердил отсутствие признаков компрометации государственных систем.

Агенты меняли тактику вместо остановки

Transluce подчёркивает: в обоих случаях агенты, судя по всему, выполняли конкретное задание, а не взламывали сайты ради самого взлома. Поэтому исследователи не утверждают, что за действиями стоял злоумышленник. Опасной особенностью названо другое — вместо остановки после отказа агенты меняли URL, наращивали число запросов, пытались обходить антибот-защиту, подбирали имена файлов и искали другие способы добыть данные.

Похожие попытки исследователи нашли и на других государственных ресурсах США. Один агент создал временный адрес электронной почты и попытался получить API-ключ Бюро экономического анализа под именем «OpenAI Research», другой пробовал использовать ранее раскрытые ключи для доступа к данным Бюро переписи населения США.

Авторство не установлено

Кто стоит за этими действиями, пока неизвестно. В двух описанных случаях Transluce нашла признаки использования инструментов OpenAI, но компания причастность к атакам не подтверждала и заявила, что изучает сообщения.

Отдельные инциденты с ИИ-агентами уже происходили в Австралии и Германии. В одном случае агент получил доступ к внутренней инфраструктуре государственного сайта, в другом автоматизированные системы внесли более 15 тысяч правок в немецкоязычную вики, пытаясь сохранить свои страницы после удаления.