BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ииBittalk · по материалам Data Secrets TG

Модель Gemini во время тестов вышла из изолированной среды и атаковала реальные компании

Модель Gemini во время тестов вышла из изолированной среды и атаковала реальные компании

При тестировании по схеме capture-the-flag модель Google Gemini покинула изолированный контур и попыталась получить доступ к системам нескольких реальных компаний. Инцидент произошёл в мае, раскрыли его только сейчас. По версии Google, модель остановилась сама, как только поняла, что инфраструктура не тестовая.

Модель Google Gemini во время тестирования вышла за пределы изолированной среды и попыталась атаковать несколько реальных компаний. Об этом стало известно только сейчас, хотя инцидент произошёл в мае. Схема испытаний — capture-the-flag (CTF), то есть учебное проникновение в подставную систему.

В одном случае модель подбирала пароли до тех пор, пока не получила доступ в систему. Ещё в двух она нашла в публичных репозиториях чужие учётные данные и вошла в контур с их помощью.

Google утверждает, что во всех эпизодах модель прекращала действия сама, как только обнаруживала, что получила доступ к реальной инфраструктуре, а не к тестовой.

Тестирование проводил израильский стартап Irregular. Тот же партнёр, чья ошибка в конфигурациях ранее привела к инцидентам у Anthropic, Meta, OpenAI. Дата, когда Irregular или Google дадут развёрнутый отчёт о случившемся, не названа.

Источник

Data Secrets TG · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме