Anthropic включила в Claude оценку запросов на потенциальный вред
Модель Claude после ответа получает скрытую инструкцию и кратко оценивает, был ли в диалоге потенциально вредный запрос. Метод работает во всех версиях начиная с Fable 5 на большей части трафика, кроме клиентов с нулевым хранением данных; сам он ничего не блокирует, а только помечает диалоги.
Модель Claude оценивает каждый диалог на потенциально вредные запросы. Проверка идёт после того, как модель выдала ответ: она получает скрытую инструкцию и коротко отмечает, содержался ли в разговоре такой запрос.
Механизм уже запущен во всех моделях начиная с Fable 5. Он охватывает большую часть трафика, но не распространяется на клиентов с нулевым хранением данных.
Сама оценка ничего не блокирует. Она только помечает диалоги — то есть на доступ пользователя к модели в момент разговора это не влияет.
Data Secrets TG · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪«Билайн» запустил бесплатную страховку от телефонных мошенников с выплатой до 500 тыс. рублейiXBT · 30 октября
- ▪Anthropic названа крупнейшим клиентом SpaceX3DNews · 30 октября
- ▪Выручка Sandisk выросла на 378%, чистая прибыль — более чем в 72 раза3DNews · 30 октября
- ▪Microsoft выпустит облигации на $25 млрд под ИИ-инфраструктуру3DNews · 30 октября