CISA предупредила разработчиков ИИ о рисках дистилляции моделей из Китая

Агентство по кибербезопасности и защите инфраструктуры США (CISA) предупредило американские компании-разработчиков ИИ об угрозе дистилляции их моделей китайскими конкурентами. По мнению спецслужб, Китай использует доступ к API западных нейросетей, чтобы копировать их возможности и сокращать технологическое отставание.

Дистилляция — это процесс обучения меньшей модели на ответах более крупной. Прямого запрета на такой способ использования API в большинстве случаев нет, что делает его трудно обнаружимым. По данным CISA, китайские компании, в частности, пытались заставлять американские модели писать код, внедряя в промпты инструкции о том, что модель работает в интересах китайской компании MiniMax.

Компенсация ограничений на чипы

Дистилляция рассматривается как способ обойти ограничения США на поставки в Китай передовых чипов, которые должны были сдержать развитие местного ИИ. Вместо того чтобы полагаться только на собственные аппаратные ресурсы, китайские разработчики используют вычислительную мощность американских сервисов.

CISA рекомендует компаниям усилить защиту своих моделей от подобных атак. Среди предлагаемых мер — ужесточение мониторинга подозрительных запросов и введение ограничений на ответы для пользователей, чьё поведение указывает на попытку дистилляции.