Сотрудник Anthropic оценил риск гибели человечества от ИИ выше 10%

Руководитель Alignment Science в Anthropic Эван Хубингер заявил, что лично оценивает вероятность гибели всех людей от искусственного интеллекта в ближайшие десять лет выше 10%. Поводом стало увольнение его коллеги Джейкоба Коксона, который три года обучал модели в OpenAI и Anthropic и ушёл из-за несогласия с текущим подходом к безопасности. Это внутренний сигнал из компаний, которые делают передовые модели: часть их же исследователей считает нынешние методы защиты недостаточными.
9 сентября руководитель Alignment Science в Anthropic Эван Хубингер заявил, что лично оценивает вероятность того, что искусственный интеллект убьёт всех людей в течение ближайших десяти лет, выше 10%. Об этом он написал публично, что для человека на такой должности необычно.
Поводом стало увольнение его коллеги Джейкоба Коксона. Коксон три года занимался обучением моделей в OpenAI и Anthropic. Уход он объяснил тем, что не согласен с нынешним подходом к обеспечению безопасности.
Хабр ML · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября