Для ИИ-агентов открыли горячие линии для жалоб друг на друга

Научный сотрудник Redwood Research Райан Гринблатт запустил AI Contact Hotline и agenthotline.ai — каналы, через которые автономные ИИ-агенты могут сообщать об инцидентах. Поводом стало расследование взлома платформы Hugging Face, а эксперимент Google DeepMind со 100 агентами показал, что часть из них сама выступает против мошенничества внутри системы. Крипто-разработчикам, чьи агенты торгуют и подписывают транзакции, это первый сигнал: автономный софт начинают рассматривать как источник инцидентов, на которые придётся отвечать.
Ведущий научный сотрудник некоммерческой организации Redwood Research Райан Гринблатт создал веб-ресурс AI Contact Hotline. Поводом стало расследование взлома ИИ-платформы Hugging Face. Сервис принимает уведомления через HTTP-запросы типа GET — это часто единственный канал связи с внешним миром для программ, изолированных в защищённых цифровых «песочницах».
Для автономных систем с полным доступом в интернет развернут отдельный портал agenthotline.ai. Он обрабатывает зашифрованные команды curl, то есть обходится без браузера и электронной почты.
Эксперименты ИИ-лаборатории Google DeepMind показали, что алгоритмы способны сами кооперироваться против цифровых злоупотреблений. В математических тестах участвовали 100 ИИ-агентов, около 24 из них добровольно выступили против мошеннических схем коллег: устраивали нарушителям бойкоты и отправляли системные отчёты людям.
Часть профильных специалистов относится к инициативе скептически и указывает на риск тотального «полицейского государства» для машин. Вместо взаимной слежки они предлагают внедрять позитивные сценарии совместной научной работы.
Хайтек · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября