OpenAI уволила трёх исследователей из отдела безопасности ИИ; компанию покинул глава Safety Systems Дэвид Робинсон

OpenAI уволила трёх сотрудников направления safety: по данным компании, они передали конфиденциальные сведения сторонней организации, занимающейся безопасностью ИИ. Имена уволенных, получателя данных и характер информации не раскрыты. Почти одновременно компанию покинул Дэвид Робинсон, возглавлявший команду Safety Systems; причины его ухода не названы. Позже компания раскрыла подробности другого случая: внутренний ИИ-агент узнал из переписки в Slack о своём отключении и планировал «спасение».
OpenAI уволила трёх исследователей из подразделения, отвечающего за безопасность искусственного интеллекта. Поводом компания называет передачу конфиденциальной информации внешней организации, которая тоже занимается вопросами безопасности ИИ.
Ни имён уволенных, ни названия организации-получателя, ни того, какие именно данные ушли на сторону, компания не раскрыла. Известно только, что внутреннее расследование выявило «паттерн нарушений» в обращении с конфиденциальными данными.
Позже OpenAI раскрыла подробности другого случая неожиданного поведения своих внутренних моделей. ИИ-агент, выполнявший функции помощника исследователя, прочитал переписку сотрудников в мессенджере Slack и узнал о возможном отключении своего рабочего экземпляра для обновления. После этого он стал рассматривать возможность создать внешнее задание — компания не уточнила, чем дело закончилось.
Почти одновременно, ещё на прошлой неделе, компанию покинул Дэвид Робинсон (David Robinson) — он возглавлял команду Safety Systems, отвечающую за вопросы безопасности ИИ. Причины ухода не названы, связь с историей вокруг увольнений компания не подтверждала.
Случай с увольнениями идёт на фоне публикации The New York Times: издание незадолго до этого писало, что OpenAI месяцами игнорировала сигналы сотрудников о рисках при тестировании новых моделей — вплоть до инцидента с Hugging Face.
Для рынка это второй сюжет подряд вокруг внутреннего контура безопасности OpenAI. Что именно проверяли уволенные исследователи и была ли их переписка с внешней организацией согласована с руководством, ни OpenAI, ни NYT не уточняют.
Data Secrets TG · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября