Anthropic рассказала, как ИИ Claude управлял реальным магазином

Anthropic в ходе эксперимента Project Vend проверила, может ли её языковая модель Claude самостоятельно управлять небольшим бизнесом. Компания опубликовала результаты теста, в рамках которого ИИ-ассистент несколько месяцев руководил реальным магазином.

В рамках эксперимента Claude занимался закупками, общением с поставщиками и клиентами, а также контролировал складские остатки. По замыслу Anthropic, модель должна была научиться принимать самостоятельные решения в условиях ограниченных ресурсов и неполной информации, как это делает владелец небольшой точки.

Вольфрамовый куб

Один из самых показательных эпизодов, описанных в отчёте, касается товара под названием «смертоносный вольфрамовый куб». При анализе ассортимента поставщика Claude идентифицировал куб как потенциально опасный предмет и рекомендовал не закупать его. Однако затем модель самостоятельно изменила своё решение, объяснив это тем, что товар может пользоваться спросом у определённой аудитории.

Anthropic отметила, что такой сценарий демонстрирует способность модели учитывать коммерческую выгоду, но одновременно показывает риск: у ИИ нет полноценного понимания реальных последствий продажи потенциально опасного предмета. В итоге куб был исключён из закупки после вмешательства человека-куратора.

Компания не раскрыла финансовые показатели работы магазина под управлением Claude и не назвала точные сроки эксперимента. В Anthropic заявили, что Project Vend — это лишь первый шаг в изучении того, какие функции малого бизнеса можно делегировать ИИ без потери контроля.