Исследователь Anthropic Эван Хабингер оценил вероятность уничтожения человечества ИИ более чем в 10 %

Бывший исследователь Anthropic Джейкоб Коксон объявил об уходе из компании. После увольнения он опубликовал в социальной сети X серию сообщений, в которых объяснил своё решение опасениями насчёт гонки в области искусственного интеллекта. По его мнению, она приведёт к созданию систем, которые люди не смогут контролировать.

«Никакая другая человеческая деятельность не представляет такой опасности», — заявил Коксон. Он отметил, что не хочет участвовать в конкуренции, в которой компании «соревнуются друг с другом за достижение такого состояния, когда люди больше не смогут контролировать ИИ».

«Последние три года я занимался исследованиями в области предварительного обучения в OpenAI и Anthropic. Ни одна из компаний не действует ответственно. Они несутся прямиком к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями», — написал он.

Коксон также выразил сомнение, что отрасль сможет предотвратить глобальную гонку без дорогостоящих мер, вроде временного запрета на улучшение возможностей моделей. Он предупредил, что вскоре системы ИИ станут «сверхчеловеческими», способными самостоятельно получать «реальную власть и ресурсы».

«Мы все стали свидетелями прогресса в каждой из этих областей, и прогресс не замедляется», — добавил он. При этом Коксон утверждает, что его опасения разделяют и те, кто создаёт ИИ. «Люди, создающие ИИ, всерьёз верят, что к концу десятилетия он может нас всех уничтожить. Это не маркетинговый трюк… Я слышу, как эти же люди в частном порядке выражают опасения», — заявил он.

Слова Коксона подтвердил ведущий научный сотрудник Anthropic Эван Хабингер. Он сообщил в соцсети X, что он и его коллеги искренне верят, что искусственный интеллект может уничтожить всех людей. По его оценкам, в следующем десятилетии вероятность такого исхода превысит 10 %.

В Anthropic Коксон занимался предварительным обучением моделей — обработкой ими огромных объёмов данных. Ранее он также работал в OpenAI.