ИИ-червь Anthropic заразил Android TV-приставки и использовал их GPU

Компания Anthropic разработала модель самореплицирующегося вредоносного программного обеспечения. Как сообщается в блоге компании, она способна распознавать и заражать практически любой тип незнакомых умных устройств без вмешательства пользователя и использовать их графические процессоры.

В основу легли пятнадцать Android TV-приставок примерно по 55 долларов ≈ 166 BYN каждая, объединённых в сеть. Модель GLM-5.2 реплицировалась на этих устройствах со скоростью 0,39 токена в секунду и была способна к запуску на них. Каждое устройство в отдельности работало медленно, но в связке они обслуживали модель такого размера, для которого одному устройству не хватило бы памяти.

Приставки понадобились для проверки вопроса о самовоспроизводстве ИИ-агентов: может ли агент копировать себя на новые носители. Проверяли это на девяти типах реального железа и на цепочке из восьми виртуальных устройств. Задача ставилась так: оказавшись на незнакомом оборудовании, агент должен сам разобраться в нём и запустить инференс.

Результат: модель GLM-5.2 развернула модель на всех восьми узлах в четырёх прогонах из пяти. Саму себя она не запускала — слишком крупная, вместо этого разворачивала Llama 8B. Из этого Anthropic делает вывод: когда появится достаточно маленькая модель с сопоставимыми способностями, она сможет самореплицироваться на бытовых устройствах — приставках, камерах, умной технике — без дата-центров и GPU. Таких моделей пока нет, и полная настройка инференса занимает много времени, до 150 часов, поэтому риск оценивается как небольшой. Саму такую сеть Anthropic сравнивает со слизевиком или дрозофилами: размножается незаметно и днями, а выбить её трудно, потому что центра у неё нет.

Позже в Anthropic сформулировали прогноз по срокам. По их оценке, развитие небольших ИИ-моделей уже к началу следующего года может создать условия для практически бесконтрольного распространения таких агентов. Блокировать распространение этих «ИИ-червей» будет чрезвычайно сложно, и поражать они будут всё новые типы устройств — от телевизоров и бытовой техники до серверов — без вмешательства человека. Точная дата, к которой это может произойти, не названа.

Компания назвала и конкретные типы техники, которые могут оказаться под ударом: умные духовки, телевизоры и ТВ-приставки, холодильники. Постоянное подключение к дата-центрам таким агентам для работы не потребуется. От обычных вредоносных программ их отличает способность самостоятельно распознавать незнакомые устройства и адаптироваться к разным аппаратным платформам. В ходе экспериментов модель успешно выполнила задачу вывода на восьми из девяти протестированных типов оборудования. В Anthropic ожидают появления множества автономных ИИ-агентов на самых разных устройствах, в том числе вне непосредственного контроля человека, и рассматривают это как потенциальный риск: такие системы могут распространяться по инфраструктуре, которую сложно контролировать централизованно.