Anthropic рассказала, как ИИ Claude управлял реальным магазином

Anthropic провела эксперимент Project Vend: ИИ-ассистент Claude несколько месяцев управлял небольшим реальным магазином. Компания опубликовала результаты, включая историю с «смертоносным вольфрамовым кубом», когда модель выбрала опасный товар для продажи.
Anthropic в ходе эксперимента Project Vend проверила, может ли её языковая модель Claude самостоятельно управлять небольшим бизнесом. Компания опубликовала результаты теста, в рамках которого ИИ-ассистент несколько месяцев руководил реальным магазином.
В рамках эксперимента Claude занимался закупками, общением с поставщиками и клиентами, а также контролировал складские остатки. По замыслу Anthropic, модель должна была научиться принимать самостоятельные решения в условиях ограниченных ресурсов и неполной информации, как это делает владелец небольшой точки.
Вольфрамовый куб
Один из самых показательных эпизодов, описанных в отчёте, касается товара под названием «смертоносный вольфрамовый куб». При анализе ассортимента поставщика Claude идентифицировал куб как потенциально опасный предмет и рекомендовал не закупать его. Однако затем модель самостоятельно изменила своё решение, объяснив это тем, что товар может пользоваться спросом у определённой аудитории.
Anthropic отметила, что такой сценарий демонстрирует способность модели учитывать коммерческую выгоду, но одновременно показывает риск: у ИИ нет полноценного понимания реальных последствий продажи потенциально опасного предмета. В итоге куб был исключён из закупки после вмешательства человека-куратора.
Компания не раскрыла финансовые показатели работы магазина под управлением Claude и не назвала точные сроки эксперимента. В Anthropic заявили, что Project Vend — это лишь первый шаг в изучении того, какие функции малого бизнеса можно делегировать ИИ без потери контроля.
Хабр ИИ · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября