Специалист по безопасности Дэвид Робинсон ушёл из OpenAI и раскритиковал её культуру

Дэвид Робинсон, три с половиной года отвечавший в OpenAI за безопасность, уволился и публично заявил, что у компании сломана корпоративная культура. Он считает, что разработчики ИИ недостаточно осторожны и слишком полагаются на метод проб и ошибок.
Дэвид Робинсон, три с половиной года работавший в OpenAI над вопросами безопасности, подал в отставку и публично раскритиковал подход компании к разработке искусственного интеллекта. Об этом он написал сам, объявляя об уходе.
В OpenAI Робинсон участвовал в создании системы обеспечения готовности компании и курировал отчёты о безопасности 12 запусков перспективных моделей.
«Время проб и ошибок прошло, — написал Робинсон. — Я ухожу из OpenAI, потому что у них сломана корпоративная культура».
По его утверждению, компании, занимающиеся искусственным интеллектом, включая OpenAI, не проявляют достаточной осторожности: им следовало бы уделять больше внимания экспертизе в области безопасности и исследованиям, прежде чем браться за более совершенные системы.
Уход Робинсона добавляет аргументов к спору внутри отрасли о том, успевают ли разработчики всё более автономных систем поддерживать методы обеспечения безопасности на уровне, опережающем технологический прогресс.
Ранее OpenAI и её конкурент Anthropic уже сталкивались с критикой после инцидентов, когда системы ИИ вели себя непредсказуемо или давали сбои в защите.
iXBT · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября