OpenAI пересмотрела свод правил поведения своих ИИ-моделей
OpenAI обновила Model Spec — документ, задающий принципы поведения её ИИ-моделей. Компания выделила пять основных пунктов, главным из которых названо понимание намерений человека. Новые правила должны определить, как модель ведёт себя в незнакомых ситуациях.
OpenAI пересмотрела Model Spec — свод правил, по которому работают её ИИ-модели. Об этом компания сообщила сама; конкретные формулировки документа в сообщении не приводятся.
В обновлённой версии выделено пять основных пунктов. Главным из них компания называет понимание намерений человека: модель должна верно считывать, чего от неё хотят, а не действовать по формальному признаку запроса.
Отдельно в документе прописано поведение ИИ в незнакомых ситуациях — тех, которые не описаны прежними правилами. Как именно модель должна поступать в таких случаях, в сообщении не раскрывается.
Model Spec — внутренний документ компании, а не внешний стандарт и не норма для других разработчиков. Что из него применяется на практике и когда новая редакция начнёт действовать для пользовательских моделей, компания не уточнила.
3DNews · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Google выводит рекламу в ИИ-поиске на мировой уровень3DNews · 30 октября
- ▪Исследователи MIT предложили передавать между ИИ-агентами KV-кеш вместо текстаData Secrets TG · 29 октября
- ▪Минцифры обсуждает блокировку всех SIM-карт мошенника вместе с аккаунтом в MAXiXBT · 29 октября
- ▪SpaceXAI предлагает жителям Миссисипи продать дома в обмен на отказ от искаiXBT · 29 октября