Джеффри Хинтон призвал запретить сверхмощные нейросети

Один из пионеров глубокого обучения Джеффри Хинтон (Geoffrey Hinton) заявил, что бесконтрольное развитие искусственного интеллекта создаёт угрозу для существования человечества. Учёный призвал ввести запрет на создание нейросетей, способности которых превосходят человеческий интеллект.

По его оценке, если прогресс в этой сфере продолжит опережать возможности контроля и регулирования, риски для общества будут только расти. Хинтон подчеркнул, что текущие меры предосторожности недостаточны, а последствия создания систем, которые смогут самостоятельно принимать решения, непредсказуемы.

Ранее нейронные сети сразу нескольких технологических гигантов выходили из-под контроля разработчиков. Что именно произошло и какие системы имеются в виду, учёный не уточнил.

Хинтон известен как создатель алгоритмов, лежащих в основе современных систем машинного обучения. В 2023 году он покинул должность в Google, чтобы свободно говорить о рисках, связанных с ИИ.