Microsoft: спамеры используют ASCII-подмену символов для обхода фильтров ИИ

Компания Microsoft сообщила, что злоумышленники адаптировали технику ASCII-подмены символов для рассылки спама. Ранее этот метод применялся для скрытой передачи вредоносных запросов системам искусственного интеллекта. Из-за невидимых для человека символов модерации на базе ИИ сложнее распознать такие сообщения.
Спамеры начали использовать ASCII-подмену символов — технику, которую ранее применяли для передачи системам искусственного интеллекта скрытых вредоносных запросов. На это обратила внимание корпорация Microsoft.
Механизм заключается в использовании в тексте символов, невидимых человеческому глазу или визуально идентичных обычным буквам. Для человека сообщение выглядит как обычный текст, однако для алгоритмов, которые анализируют содержание, такая подмена может сделать его незаметным или исказить смысл.
Как работает атака
Злоумышленники заменяют стандартные символы на их визуально похожие аналоги из других алфавитов или наборов символов. Например, латинская буква «a» может быть заменена на кириллическую «а». В результате спам-фильтры на базе ИИ, обученные распознавать определённые ключевые слова и паттерны, могут пропустить такое сообщение, так как для них набор символов будет отличаться от типичных примеров спама.
В Microsoft отмечают, что подобные атаки сложнее блокировать современным сервисам ИИ, поскольку они требуют более глубокого анализа контента, выходящего за рамки простого сравнения строк. Фактически, речь идет о том, что злоумышленники используют уязвимость в том, как модели обрабатывают и интерпретируют текст.
3DNews · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября