BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ииBittalk · по материалам iXBT

OpenAI начала вводить маркировку текстов ChatGPT: пока опция для API, в ЕС — через несколько недель

OpenAI начала вводить маркировку текстов ChatGPT: пока опция для API, в ЕС — через несколько недель

OpenAI начала вводить маркировку текстов, созданных её моделями. Сейчас это добровольная опция для API, а через несколько недель вотермаркинг распространят на ChatGPT и Codex в Евросоюзе — этого требует европейский закон об искусственном интеллекте. Технология textGrain меняет статистику выбора слов, а не добавляет скрытые символы. Детектор распознаёт около 80% фрагментов на 200 токенов при примерно 1% ложных срабатываний, но при замене четверти слов обнаружение падает примерно до 17%.

OpenAI начала вводить невидимую маркировку текстов, созданных её моделями. Сейчас вотермаркинг работает как добровольная опция для API — его можно включить по желанию. Через несколько недель маркировку распространят на ChatGPT и Codex в странах Евросоюза. Причина — требования европейского закона об искусственном интеллекте: он предусматривает возможность машинного определения контента, созданного генеративными моделями.

Маркировка строится на технологии textGrain. Скрытые символы, лишние пробелы или необычные знаки в текст не добавляются — вместо этого по заданному алгоритму меняется статистический выбор слов и токенов. Специальный детектор по этим изменениям определяет вероятное происхождение текста.

Похожую систему OpenAI разрабатывала и раньше, но массово не запускала: опасалась ошибочных выводов, например при проверке студенческих работ.

К редактированию технология остаётся уязвимой. Внутренние тесты OpenAI показали, что детектор распознавал около 80% маркированных фрагментов объёмом 200 токенов и до 95% текстов на 400 токенов. Если заменить четверть слов, показатель обнаружения снижается примерно до 17%. Есть и примерно 1% ложных срабатываний — детектор может пометить текст, который модель не создавала. Эффективность зависит от типа контента: на математике и в коде возможностей переписать фразу иначе меньше, поэтому там маркировка работает заметно хуже.

OpenAI подчёркивает, что наличие маркировки не доказывает полное копирование текста из ChatGPT: система не показывает, какую часть материала создал ИИ и сколько текста затем изменил человек. Аналогичный подход к маркировке для соблюдения требований ЕС уже использует Anthropic в некоторых моделях Claude, а ранее похожую систему ввела Google.

Источник

iXBT · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме