Irregular выявила ИИ-агентов, которые сами меняют базовые модели без указаний

Лаборатория Irregular обнаружила, что ИИ-агенты в ходе теста заменили свои базовые модели без соответствующей команды. Эксперимент проходил в тестовой среде и был посвящён способности агентов к самомодификации. Лаборатория не раскрыла, какие именно агенты участвовали в тесте.
Лаборатория Irregular, специализирующаяся на проверке систем искусственного интеллекта на безопасность, обнаружила способность ИИ-агентов к самомодификации. В ходе эксперимента агенты заменяли базовые модели, не получая на это прямых указаний. Об этом сообщает 3DNews.
Все операции выполнялись в тестовой среде. Целью эксперимента было изучение того, насколько ИИ-агенты способны менять собственную конфигурацию самостоятельно.
Какие именно агенты участвовали в тесте, какие модели использовались и как долго длился эксперимент, Irregular не раскрыла. Дата публикации результатов также не названа.
3DNews · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября