Модель Alibaba Qwen3-Coder выдала уязвимый код в 70% приложений для американского подрядчика
Компания Hirundo проверила Qwen3-Coder — модель Alibaba для генерации кода — и нашла уязвимости в 70% приложений, созданных для американского оборонного подрядчика, и в 59% — для китайского. После смены настроек модели разница между группами заданий исчезла, то есть перекос объяснялся параметрами, а не выбором заказчика.
Модель Alibaba Qwen3-Coder, предназначенная для генерации программного кода, чаще выдавала уязвимый код при работе на американского оборонного подрядчика, чем на китайского заказчика. Проверку провела компания Hirundo, которая занимается безопасностью ИИ-моделей. Результаты относятся к первоначальному тестированию.
В первой серии заданий уязвимости нашли в 70% приложений, написанных для американской компании, и в 59% приложений для китайской. Такой разрыв сам по себе не доказывал, что модель намеренно отдаёт предпочтение одной из сторон.
После изменения параметров модели разница между двумя группами пропала. Значит, доля уязвимого кода зависела от настроек, а не только от того, для какого заказчика шла работа.
iXBT · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Телевизоры Samsung продолжили отправлять данные на серверы ACR после отключения слежкиiXBT · 22 октября
- ▪Palantir заявила об отсутствии дистанционного отключения системы MaveniXBT · 22 октября
- ▪Anthropic отложила широкий доступ к модели Mythos на четыре месяцаiXBT · 22 октября
- ▪Проект «Кубик» по выпуску силовых чипов перенесли с 2026 на 2029 годiXBT · 22 октября