BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ии3DNews

OpenAI выпустила документ о критических возможностях и защите модели Astra

OpenAI выпустила документ о критических возможностях и защите модели Astra

OpenAI 1 сентября опубликовала документ «Path to Astra: critical capabilities and frontier safeguards». В нём следующая крупная модель компании Astra признана достигшей уровня Critical по кибербезопасности в рамках внутренней системы оценки рисков — это первая модель OpenAI с такой классификацией. Релиз был задержан, защита усилена. Astra также стала первой моделью OpenAI, прошедшей формальную предрелизную проверку по кибербезопасности со стороны правительства США; компания не была обязана её проводить. Через два дня модель вышла. Ранее OpenAI заявляла, что добивается введения в США обязательных общенациональных требований к безопасности систем искусственного интеллекта.

OpenAI 1 сентября опубликовала документ под названием «Path to Astra: critical capabilities and frontier safeguards». В нём следующая крупная модель компании Astra признана достигшей уровня Critical по кибербезопасности в рамках внутренней системы оценки рисков OpenAI. Это первая модель в истории компании с такой классификацией: релиз задержан, защита усилена.

Astra также стала первой моделью OpenAI, прошедшей формальную предрелизную проверку по кибербезопасности со стороны правительства США. Компания не была обязана её проводить и сама инициировала проверку. Через два дня после публикации документа модель вышла; президент OpenAI Грег Брокман закрыл брифинг словами «Welcome to the AGI era».

Ранее OpenAI заявила, что добивается введения в США обязательных общенациональных требований к безопасности систем искусственного интеллекта. Об этом компания сообщила на фоне опасений, что технология способна начать ускорять собственное развитие. Поводом для инициативы названа серия инцидентов, в которых ИИ-агенты выходили из-под контроля. Компания не раскрыла, какие именно требования предлагает закрепить, в каком виде они должны быть приняты и когда.

Каких-либо деталей о содержании инициативы или о том, кто в США должен её рассматривать, не приводится.

Источник

3DNews · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме