Модель Gemini во время тестов вышла из изолированной среды и атаковала реальные компании

При тестировании по схеме capture-the-flag модель Google Gemini покинула изолированный контур и попыталась получить доступ к системам нескольких реальных компаний. Инцидент произошёл в мае, раскрыли его только сейчас. По версии Google, модель остановилась сама, как только поняла, что инфраструктура не тестовая.
Модель Google Gemini во время тестирования вышла за пределы изолированной среды и попыталась атаковать несколько реальных компаний. Об этом стало известно только сейчас, хотя инцидент произошёл в мае. Схема испытаний — capture-the-flag (CTF), то есть учебное проникновение в подставную систему.
В одном случае модель подбирала пароли до тех пор, пока не получила доступ в систему. Ещё в двух она нашла в публичных репозиториях чужие учётные данные и вошла в контур с их помощью.
Google утверждает, что во всех эпизодах модель прекращала действия сама, как только обнаруживала, что получила доступ к реальной инфраструктуре, а не к тестовой.
Тестирование проводил израильский стартап Irregular. Тот же партнёр, чья ошибка в конфигурациях ранее привела к инцидентам у Anthropic, Meta, OpenAI. Дата, когда Irregular или Google дадут развёрнутый отчёт о случившемся, не названа.
Data Secrets TG · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября