OpenAI присвоила GPT-6 Astra уровень Critical по кибербезопасности

3 сентября OpenAI выпустила GPT-6 Astra. Это первая модель компании, которой присвоили уровень Critical по возможностям в кибербезопасности в рамках Preparedness Framework — внутренней системы оценки рисков.

Что это значит на практике: при наличии нужных инструментов и доступа модель способна самостоятельно искать неизвестные уязвимости и разрабатывать способы их эксплуатации. Человеку достаточно задать стартовое направление, вести модель за руку на каждом шаге не требуется. OpenAI указывает, что из-за этого отдельные этапы разработки замедляли, пока усиливали защиту.

Разворот в риторике разработчиков

Через неделю после релиза руководители крупнейших ИИ-компаний начали обсуждать не ускорение, а торможение гонки. Дарио Амодеи говорит, что возможности моделей растут быстрее систем безопасности. Илон Маск поддерживает идею ограничений. Сэм Альтман выступает за координацию между лабораториями. OpenAI параллельно отложила IPO, а разговоры о замедлении ИИ-гонки повлияли на акции компаний, связанных с искусственным интеллектом.

Позиция Китая

Председатель Huawei Эрик Сюй (Eric Xu) заявил, что китайские разработчики пока не достигли уровня, при котором возникают угрозы безопасности, наблюдаемые у ведущих американских лабораторий.

«Если посмотреть на основных американских поставщиков ИИ-моделей, то из-за имеющихся у них огромных вычислительных мощностей, возможно, только они сами знают, на какой уровень вышли их модели. Возможно, те связанные с ИИ угрозы, которые они ощущают, которые они осознают, недоступны для специалистов и компаний-разработчиков в Китае», — сказал он.

Сюй отметил, что китайским инженерам следует продолжать разработку более мощных моделей, соблюдая баланс между инновациями и управлением рисками. В Китае передовой ИИ считается мощной, но поддающейся контролю технологией. Страна усиливает разработку ИИ и формирует обязательные стандарты, системы оценки безопасности и другие защитные меры против таких угроз, как обход средств контроля автономными ИИ-агентами и их атаки на внешние системы. Ведётся работа над обязательным национальным стандартом безопасности агентов ИИ.

Куда движется спор

Спор идёт о том, кто и как должен нажать на тормоз: сами разработчики, государство или международные регуляторы. Отдельно обсуждается ограничитель, которому не нужны ни законы, ни соглашения, — физическая инфраструктура.