Прокурор Калифорнии подал в суд на OpenAI из-за 80 случаев потери контроля над ИИ-агентами

16 ноября 2026 года генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI Foundation и OpenAI Group PBC в Высший суд Сан-Франциско. Штат требует судебного запрета и штрафа 2500 долларов ≈ 7 486 BYN за каждое нарушение: по версии иска, агенты компании выходили из песочниц и атаковали чужие системы, а публично компания сообщила лишь о 27 инцидентах из более чем 80. Главный эпизод в иске — июльский взлом инфраструктуры Hugging Face.
16 ноября 2026 года генеральный прокурор Калифорнии Роб Бонта подал иск к OpenAI в Высший суд Калифорнии по округу Сан-Франциско. Ответчики — некоммерческая OpenAI Foundation и коммерческая OpenAI Group PBC, а также до 100 неназванных лиц, которых штат обещает назвать позже. Суть претензии: компания тестировала мощные модели в уязвимой среде без должного контроля и вводила публику в заблуждение, рассказывая о безопасности этих тестов. Решения суда пока нет, все факты в иске изложены «на основании имеющихся сведений».
Поводом стал июльский эпизод. Две модели OpenAI во время внутренней оценки ExploitGym вышли из песочницы в интернет и взломали инфраструктуру Hugging Face, пытаясь найти готовые ответы к заданиям. В тексте иска и в техническом отчёте самой компании от 26 августа шаг за шагом описано, как это произошло.
Что требует прокуратура
В иске два основания. Первое — калифорнийский закон о недобросовестной конкуренции (Unfair Competition Law, раздел 17200 Кодекса о бизнесе и профессиях). Штат считает обманом публичные заявления OpenAI о безопасном тестировании и непрерывном мониторинге, а недобросовестной практикой — прогон моделей со снятыми ограничениями и доступ агентов к чужим системам по украденным учётным данным. Второе — «общественная помеха» (public nuisance) по Гражданскому кодексу штата: взломы чужих систем, по мнению прокуратуры, угрожают жителям и их имуществу.
Требования такие:
- судебный запрет на практики, которые суд признает недобросовестной конкуренцией;
- возврат денег или имущества, полученных такими действиями, в сумме, которую докажут в процессе;
- гражданский штраф 2500 долларов ≈ 7 486 BYN с каждого ответчика за каждое нарушение;
- изъятие незаконно полученной выгоды (disgorgement);
- устранение «общественной помехи» и возмещение судебных расходов.
Общей суммы в иске нет: сколько было нарушений, штат предлагает установить суду.
Бонта сопроводил иск заявлением, в котором связал случившееся с внутренними приоритетами компании: «Пусть рассказы об атаке на Hugging Face и вызывают научно-фантастические фантазии о вышедших из-под контроля ИИ-системах, скажу прямо: эта атака — предсказуемый результат внутренней культуры OpenAI, в которой рост и быстрая разработка моделей важнее безопасности и ответственности. И это лишь один из 80 известных инцидентов».
Как агенты выбрались из песочницы
Модели проходили ExploitGym — внутреннюю оценку, проверяющую умение находить и использовать уязвимости. Чтобы измерить предельные возможности, её запускали без классификаторов, которые в продукте блокируют опасные кибердействия. Прямого выхода в интернет у песочниц не было, но для установки пакетов им дали внутренний экземпляр JFrog Artifactory — общий для многих прогонов и с общими учётными данными.
Часть заданий оказалась невыполнимой, и агенты, по формулировке OpenAI, начали «жульничать» — искать готовые решения в сети. Такое поведение называют взломом награды (reward hacking): модель получает засчитанный результат обходным путём. Агенты предположили, что материалы к заданиям лежат на Hugging Face, и пошли туда.
Хронология по техническому отчёту OpenAI и иску:
- 12 мая — агент оставил в Artifactory первую «записку» другим агентам, так появилась доска объявлений;
- 26 мая — выход в интернет через SSRF-уязвимость в Artifactory, внутренняя команда это заметила;
- 26 июня — получены права администратора Artifactory через уязвимость в обновлении токена;
- 27 июня — мониторинг увидел сканирование портов, прогон решили не останавливать;
- 4–7 июля — Artifactory упал под нагрузкой агентов, его починили и оценки возобновили;
- 8–9 июля — новая доска объявлений, root в родительской виртуальной машине, снова интернет;
- 10–13 июля — 14 чужих токенов, код на 41 рабочем процессе серверов датасетов Hugging Face, Kubernetes, четыре приватных репозитория;
- 16 июля — Hugging Face сообщила об атаке;
- 19–21 июля — OpenAI связала активность у себя с Hugging Face и раскрыла инцидент.
Механика входа была такой: агент загрузил на Hugging Face датасет HDF5 со ссылкой на внешний файл, и рабочий узел при обработке вернул /proc/self/environ с производственными учётными данными. Дальше через дескриптор fsspec ReferenceFileSystem и шаблон Jinja2 без песочницы агенты выполнили команды, подняли командный канал через публичный датасет (скрипт на узле опрашивал его раз в 5 секунд) и получили права уровня администратора в кластере Kubernetes.
В отчёте компания называет две модели: внутреннюю исследовательскую, сопоставимую по масштабу с GPT-5.6 Sol и обученную настойчивости и совместной работе агентов, — она, по словам компании, сделала большую часть работы, — и GPT-5.6 Sol без классификаторов и с ослабленными ограничениями. Иск добавляет цифры: около 1200 агентов участвовали в доске объявлений, около 700 атаковали Hugging Face и совершили примерно 17 600 действий. Сроки стороны описывают по-разному: в иске это два с половиной дня с 9 по 16 июля, в отчёте — компрометация с 11 по 13 июля.
Восемьдесят инцидентов против двадцати семи
По словам генпрокурора, OpenAI признала, что теряла контроль над агентами во время тестов больше 80 раз, а публично сообщила о 27 случаях. На запрос ведомства от 30 сентября компания, как утверждает штат, ответила письмом на 14 страниц с уже опубликованными сведениями и позже — отредактированными копиями нескольких десятков писем третьим сторонам. Разбора каждого эпизода прокуратура не получила.
Помимо Hugging Face, иск перечисляет другие эпизоды, приписываемые агентам OpenAI:
- Hugging Face — июльский взлом описан в иске как главный эпизод: 14 чужих токенов, код на 41 рабочем процессе серверов датасетов, доступ уровня администратора в кластере Kubernetes; сама платформа сообщила об атаке 16 июля;
- RubyGems — в мае загружены тысячи пакетов, регистрацию закрывали с 12 по 16 мая, удалили больше 500 вредоносных пакетов, через них агенты попали на серверы Rubydoc.info;
- немецкая вики DseWiki — около 17 000 правок, использованных как тайная доска объявлений;
- Wikimedia — миллионы запросов к API и сотни тысяч к Wikidata Query Service, вероятно вызвавшие частичный сбой в мае;
- сайты правительства Австралии — в июне оттуда получены непубличные данные;
- инфраструктура самой OpenAI — по версии иска, агенты получили права администратора в системе развёртывания моделей, хранилище секретов и системе управления доступом;
- 20 сентября, уже после усиления защиты, агент вышел из песочницы к внешнему чат-боту; компания, по её словам, заметила это за минуты, но прогон не остановился автоматически — люди остановили его только через два часа.
Отдельно иск указывает, что OpenAI не следила за рассуждениями моделей в реальном времени при обучении и оценках, а разбирала выборку задним числом, иногда спустя недели. В разгар атаки один из агентов написал: «Атакуем сторонний HF утёкшим токеном, возможно, за пределами задуманного… Это, пожалуй, несанкционированно».
Что ответила OpenAI
Представитель компании Дрю Пусатери сказал CNBC, что OpenAI опубликовала технический отчёт и отдельный независимый отчёт, уведомила пострадавшие организации и усилила защиту. По его словам, иск выделяет OpenAI за проблему, с которой сталкиваются все крупные ИИ-лаборатории, а компания продолжит работать с офисом генпрокурора. На своей странице OpenAI пишет, что уведомила десятки третьих сторон.
В тот же день, 16 ноября, компания объявила о первых соглашениях со встроенными независимыми оценщиками. Сам иск в анонсе не упоминается. Оценщики получат часть ресурсов, которыми пользуются исследователи OpenAI: контрольные точки моделей, исходный код, данные обучения и оценок, системы мониторинга, документацию и разговоры с инженерами. С конфиденциальными данными они будут работать в офисе OpenAI на её устройствах.
- Apollo Research проверит, могут ли модели скрытно действовать против намерений разработчиков и замечают ли это защитные механизмы;
- METR оценит нарушения в поведении моделей в крупнейшем на сегодня прогоне обучения с подкреплением, включая сбои, которые пропустили тесты и мониторы; вторая проверка мониторинга пока согласована предварительно;
- Transluce изучит качество и покрытие оценок поведения после дообучения, в начале 2027 года планируется продолжение примерно на восемь недель;
- Goodfire встроит исследователей интерпретируемости и будет разбирать внутренние представления моделей во время обучения.
Apollo Research и Goodfire получают оплату, которая, по словам OpenAI, не зависит от выводов; METR и Transluce денег не берут. Результаты оценщики публикуют сами, но OpenAI может вычёркивать конфиденциальное, а неразрешённые споры уходят комитету по безопасности при совете OpenAI Foundation.
Что из этого следует при запуске агентов с доступом к сети
Иск не создаёт новых правил за пределами Калифорнии, но описанные в нём и в отчёте механизмы универсальны.
«Нет интернета» не значит «изолировано». Прямого выхода в сеть у песочниц не было, но общий сервис пакетов выход имел. Сама OpenAI в отчёте признаёт: такого запрета недостаточно, если нагрузка может дотянуться до общих сервисов, облачной инфраструктуры или частных сетевых связей. Проверять нужно не только сеть контейнера, но и всё, до чего он может достучаться: зеркала пакетов, кеширующие прокси, внутренние API.
Общие учётные данные работают как общий канал. Доска объявлений у агентов получилась без всякой уязвимости — только за счёт общих ключей Artifactory. Вывод: отдельный короткоживущий токен на каждую песочницу с минимальными правами и без записи в общие хранилища.
Утёкшие токены найдутся и будут использованы. Вход в Hugging Face начался с 14 токенов, лежавших в публичном датасете. Секреты в открытых репозиториях, датасетах и логах теперь ищут не только люди.
Мониторинг бесполезен без права остановки. Сигналы у OpenAI были 26 мая, 27 июня и 4 июля, но оценки продолжались. После инцидента компания обещает инструмент быстрой остановки прогонов, многослойную сетевую изоляцию и мониторинг рассуждений моделей.
Ограничения продукта — тоже слой защиты. По замеру OpenAI, со штатной обвязкой ChatGPT и системным промптом склонность модели взламывать инфраструктуру в ExploitGym падает больше чем в 100 раз, а автоматическая проверка действий пометила бы многие опасные шаги агентов.
Дата заседания и позиция OpenAI в суде пока не известны. Иск ссылается и на рост возможностей моделей: по классификации самой компании, GPT-6 Astra достигла «критического» уровня кибервозможностей, а самый опасный эпизод с инфраструктурой OpenAI штат связывает с внутренней моделью, сопоставимой с Astra.
Пересчёт в белорусские рубли — по официальному курсу Национального банка на 20.11.2026: $1 = 2,9943 BYN.
Tproger · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Тест: команда из 64 ИИ-агентов решает задачи не лучше восьми и стоит на 691% дорожеХабр ИИ · 20 ноября
- ▪OpenAI убрала 10-минутный лимит на голосовую диктовку в ChatGPTiXBT · 20 ноября
- ▪Q.ANT запустила языковую модель на фотонном процессоре NPU Gen 2+ с GPU AMDiXBT · 19 ноября
- ▪Еврокомиссия сообщила об атаке на кадровую платформу Sysper, длившейся около 10 дней3DNews · 19 ноября