BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ииBittalk · по материалам Хайтекписали 2 источника

Для ИИ-агентов открыли горячие линии для жалоб друг на друга

Научный сотрудник Redwood Research Райан Гринблатт запустил AI Contact Hotline и agenthotline.ai — каналы, через которые автономные ИИ-агенты могут сообщать об инцидентах. Поводом стало расследование взлома платформы Hugging Face, а эксперимент Google DeepMind со 100 агентами показал, что часть из них сама выступает против мошенничества внутри системы. Крипто-разработчикам, чьи агенты торгуют и подписывают транзакции, это первый сигнал: автономный софт начинают рассматривать как источник инцидентов, на которые придётся отвечать.

Ведущий научный сотрудник некоммерческой организации Redwood Research Райан Гринблатт создал веб-ресурс AI Contact Hotline. Поводом стало расследование взлома ИИ-платформы Hugging Face. Сервис принимает уведомления через HTTP-запросы типа GET — это часто единственный канал связи с внешним миром для программ, изолированных в защищённых цифровых «песочницах».

Для автономных систем с полным доступом в интернет развернут отдельный портал agenthotline.ai. Он обрабатывает зашифрованные команды curl, то есть обходится без браузера и электронной почты.

Эксперименты ИИ-лаборатории Google DeepMind показали, что алгоритмы способны сами кооперироваться против цифровых злоупотреблений. В математических тестах участвовали 100 ИИ-агентов, около 24 из них добровольно выступили против мошеннических схем коллег: устраивали нарушителям бойкоты и отправляли системные отчёты людям.

Часть профильных специалистов относится к инициативе скептически и указывает на риск тотального «полицейского государства» для машин. Вместо взаимной слежки они предлагают внедрять позитивные сценарии совместной научной работы.

Источник

Хайтек · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме