Anthropic работает над системой подтверждения подлинности моделей искусственного интеллекта

FlashProve должна позволить установить, какая именно модель создала ответ, даже если компания-разработчик попытается выдать результат одной нейросети за работу другой Anthropic представила исследовательскую систему FlashProve, которая должна подтверждать происхождение ответов от модели искусственного интеллекта с помощью криптографических доказательств. Она позволит пользователю проверить, действительно ли результат получен от заявленной модели, а не от другой нейросети, которую незаметно подставили вместо неё. Разработчики сравнивают механизм с цифровыми подписями электронной почты: получатель может проверить, действительно ли сообщение отправлено указанным автором. В случае с ИИ такая проверка должна защищать от подмены модели даже со стороны самой компании, которая её разработала и обслуживает.

Источник: iXBT