Альтман: инцидентов с ИИ не избежать, важна реакция отрасли

Глава OpenAI Сэм Альтман на конференции Salesforce Dreamforce заявил, что при внедрении новых технологий определённое число инцидентов неизбежно, и назвал главным умение отрасли сообщать о них и делать выводы. Он также сказал, что мир имеет полное право бояться ИИ, и сравнил подход к разбору сбоев с практикой авиационных ведомств США.
Генеральный директор OpenAI Сэм Альтман (Sam Altman) на конференции Salesforce Dreamforce заявил, что при внедрении новых технологий определённое количество инцидентов неизбежно. По его словам, решающим является не отсутствие сбоев, а то, как отрасль на них реагирует.
«Я действительно считаю, что в условиях внедрения новых технологий определённая степень инцидентов неизбежна, — сказал Альтман. — Что меня действительно волнует, так это наличие у нас отличной культуры сообщения об инцидентах и извлечения уроков из них».
Он привёл в пример Федеральное управление гражданской авиации и Национальный совет по безопасности на транспорте США: эти ведомства тщательно расследуют каждый случай, и именно культура извлечения уроков, по его мнению, стала одной из главных причин безопасности современных авиаперелётов.
Альтман не стал преуменьшать общественные опасения. Он признал, что тревога по поводу выхода ИИ из-под контроля или чрезмерной концентрации власти в нескольких лабораториях понятна. «Мир имеет полное право бояться ИИ», — сказал он.
Контекст для этих слов — недавний уход исследователя Джейкоба Коксона, работавшего в Anthropic и OpenAI. После увольнения он начал публиковать в соцсети X сообщения о том, что гонка в области ИИ приведёт к созданию систем, способных уничтожить человечество.
iXBT · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября