OpenAI начала вводить маркировку текстов ChatGPT: пока опция для API, в ЕС — через несколько недель

OpenAI начала вводить маркировку текстов, созданных её моделями. Сейчас это добровольная опция для API, а через несколько недель вотермаркинг распространят на ChatGPT и Codex в Евросоюзе — этого требует европейский закон об искусственном интеллекте. Технология textGrain меняет статистику выбора слов, а не добавляет скрытые символы. Детектор распознаёт около 80% фрагментов на 200 токенов при примерно 1% ложных срабатываний, но при замене четверти слов обнаружение падает примерно до 17%.
OpenAI начала вводить невидимую маркировку текстов, созданных её моделями. Сейчас вотермаркинг работает как добровольная опция для API — его можно включить по желанию. Через несколько недель маркировку распространят на ChatGPT и Codex в странах Евросоюза. Причина — требования европейского закона об искусственном интеллекте: он предусматривает возможность машинного определения контента, созданного генеративными моделями.
Маркировка строится на технологии textGrain. Скрытые символы, лишние пробелы или необычные знаки в текст не добавляются — вместо этого по заданному алгоритму меняется статистический выбор слов и токенов. Специальный детектор по этим изменениям определяет вероятное происхождение текста.
Похожую систему OpenAI разрабатывала и раньше, но массово не запускала: опасалась ошибочных выводов, например при проверке студенческих работ.
К редактированию технология остаётся уязвимой. Внутренние тесты OpenAI показали, что детектор распознавал около 80% маркированных фрагментов объёмом 200 токенов и до 95% текстов на 400 токенов. Если заменить четверть слов, показатель обнаружения снижается примерно до 17%. Есть и примерно 1% ложных срабатываний — детектор может пометить текст, который модель не создавала. Эффективность зависит от типа контента: на математике и в коде возможностей переписать фразу иначе меньше, поэтому там маркировка работает заметно хуже.
OpenAI подчёркивает, что наличие маркировки не доказывает полное копирование текста из ChatGPT: система не показывает, какую часть материала создал ИИ и сколько текста затем изменил человек. Аналогичный подход к маркировке для соблюдения требований ЕС уже использует Anthropic в некоторых моделях Claude, а ранее похожую систему ввела Google.
iXBT · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября