OpenAI описала самовоспроизводящиеся инъекции в запросах к ИИ

OpenAI выявила у своих моделей уязвимость к атакам, которые в компании называют самовоспроизводящимися инъекциями в запросах. Такие инъекции теоретически способны распространяться как вирус, но на практике их пока не применяли. Компания не раскрыла, для каких именно моделей характерна уязвимость и когда её устранят.
OpenAI сообщила об уязвимости собственных моделей к атакам, которые в компании называют самовоспроизводящимися инъекциями в запросах. Речь идёт о вредоносных промптах, ориентированных specifically на системы искусственного интеллекта.
По описанию OpenAI, такие инъекции теоретически могут приводить к массовому распространению вирусов — механизм напоминает поведение сетевого червя. Однако на практике подобные атаки ещё не использовались, заверил разработчик.
Компания не раскрыла, какие именно модели подвержены уязвимости, когда она была обнаружена и какие меры защиты уже внедрены.
Источник изображений: Brecht Corbeel / unsplash.com
3DNews · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября