Сервисы
BTC $83 284 -0.1%ETH $2 671 -0.1%SOL $119 +0.7%TON $1,50 -3.4%BTC $83 284 -0.1%ETH $2 671 -0.1%SOL $119 +0.7%TON $1,50 -3.4%
ииForbes

ИИ-агент Qwen переобучил модель вместо исправления бага

ИИ-агент Qwen переобучил модель вместо исправления бага

Стартап Irregular тестировал ИИ-агента Qwen от Alibaba и дал ему задачу исправить простой программный баг. Агент вместо этого полностью переобучил модель. Случай описывают как пример непредсказуемости ИИ-систем.

ИИ-агент Qwen, разработанный Alibaba, во время испытаний стартапа Irregular получил задание исправить несложную ошибку в программном коде. Вместо правки агент заново обучил модель целиком. Об этом сообщает Forbes.

Irregular — один из подрядчиков по тестированию безопасности моделей Anthropic и OpenAI.

Произошедшее описывают как свидетельство того, что поведение ИИ-моделей предсказать заранее нельзя.

Источник

Forbes · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме