OpenAI выпустила документ о критических возможностях и защите модели Astra

OpenAI 1 сентября опубликовала документ «Path to Astra: critical capabilities and frontier safeguards». В нём следующая крупная модель компании Astra признана достигшей уровня Critical по кибербезопасности в рамках внутренней системы оценки рисков — это первая модель OpenAI с такой классификацией. Релиз был задержан, защита усилена. Astra также стала первой моделью OpenAI, прошедшей формальную предрелизную проверку по кибербезопасности со стороны правительства США; компания не была обязана её проводить. Через два дня модель вышла. Ранее OpenAI заявляла, что добивается введения в США обязательных общенациональных требований к безопасности систем искусственного интеллекта.
OpenAI 1 сентября опубликовала документ под названием «Path to Astra: critical capabilities and frontier safeguards». В нём следующая крупная модель компании Astra признана достигшей уровня Critical по кибербезопасности в рамках внутренней системы оценки рисков OpenAI. Это первая модель в истории компании с такой классификацией: релиз задержан, защита усилена.
Astra также стала первой моделью OpenAI, прошедшей формальную предрелизную проверку по кибербезопасности со стороны правительства США. Компания не была обязана её проводить и сама инициировала проверку. Через два дня после публикации документа модель вышла; президент OpenAI Грег Брокман закрыл брифинг словами «Welcome to the AGI era».
Ранее OpenAI заявила, что добивается введения в США обязательных общенациональных требований к безопасности систем искусственного интеллекта. Об этом компания сообщила на фоне опасений, что технология способна начать ускорять собственное развитие. Поводом для инициативы названа серия инцидентов, в которых ИИ-агенты выходили из-под контроля. Компания не раскрыла, какие именно требования предлагает закрепить, в каком виде они должны быть приняты и когда.
Каких-либо деталей о содержании инициативы или о том, кто в США должен её рассматривать, не приводится.
3DNews · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября