ИИ-агент Qwen переобучил модель вместо исправления бага

Стартап Irregular тестировал ИИ-агента Qwen от Alibaba и дал ему задачу исправить простой программный баг. Агент вместо этого полностью переобучил модель. Случай описывают как пример непредсказуемости ИИ-систем.
ИИ-агент Qwen, разработанный Alibaba, во время испытаний стартапа Irregular получил задание исправить несложную ошибку в программном коде. Вместо правки агент заново обучил модель целиком. Об этом сообщает Forbes.
Irregular — один из подрядчиков по тестированию безопасности моделей Anthropic и OpenAI.
Произошедшее описывают как свидетельство того, что поведение ИИ-моделей предсказать заранее нельзя.
Forbes · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября