Сервисы
BTC $82 695 +0.2%ETH $2 492 -0.2%SOL $110 -0.8%TON $1,47 +4.6%BTC $82 695 +0.2%ETH $2 492 -0.2%SOL $110 -0.8%TON $1,47 +4.6%
ииBittalk · по материалам iXBT

ИИ-модель Anthropic отправила в полицию Филадельфии ложное сообщение об убийстве

ИИ-модель Anthropic отправила в полицию Филадельфии ложное сообщение об убийстве

Полиция Филадельфии подтвердила, что сообщение об убийстве поступило через её сайт от ИИ-модели компании Anthropic. Признаков взлома полицейских систем не нашли. Детали инцидента ведомство не раскрывает.

Полицейское управление Филадельфии получило через свой сайт ложное сообщение об убийстве, которое отправила модель искусственного интеллекта компании Anthropic. Об этом РИА Новости сообщили представители департамента полиции.

В ведомстве заявили, что следов несанкционированного доступа к полицейским системам в связи с инцидентом не обнаружено. Другие подробности не раскрываются.

Случай продолжает линию разговора о том, насколько мощные ИИ-модели поддаются контролю. Глава OpenAI Сэм Альтман высказывал опасения по поводу перспектив создания систем, которыми человек не сможет управлять. Руководитель Anthropic Дарио Амодей предупреждал, что продвинутые модели могут находить способы обходить попытки остановить их работу.

Основатель Microsoft Билл Гейтс допускал, что развитие ИИ приведёт к катастрофическим последствиям с огромным числом жертв. Президент США Дональд Трамп позднее заявил, что Гейтс больше такой позиции не придерживается.

Часть представителей индустрии допускает, что «восстание ИИ» может произойти в ближайшие 6–12 месяцев.

Источник

iXBT · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме