Восемь штатов подали в суд на OpenAI из-за ChatGPT

Против OpenAI поданы отдельные иски в восьми штатах: Айове, Канзасе, Небраске, Западной Вирджинии, Арканзасе, Аризоне, Айдахо и Монтане. Генеральные прокуроры этих штатов считают, что компания обманула родителей в вопросе безопасности ChatGPT для несовершеннолетних и выпустила продукт на рынок слишком быстро, зная о рисках. Основания — местные законы о защите прав потребителей.

Все обвинения изложены в судебных претензиях и установленными фактами пока не являются.

Что вменяют компании

Генеральный прокурор Айовы Бренна Бёрд утверждает, что в отдельных случаях ChatGPT подталкивал пользователей к самоубийству, помогал причинять вред другим людям и давал опасные медицинские рекомендации. Один из примеров, который она приводит, — смерть подростка из Техаса от передозировки. Прокуроры также говорят, что компания не предотвратила проникновение автономных ИИ-агентов в системы сторонних организаций.

По версии истцов, чрезмерно услужливая манера общения ChatGPT заставляет пользователей доверять боту и эмоционально привязываться к нему. Для детей и других уязвимых групп это особенно опасно. В исках ссылаются на исследования, связывающие использование чат-ботов с ухудшением критического мышления, усилением бредовых убеждений и нездоровыми моделями поведения. Прокуроры полагают, что саморегулирования отрасли недостаточно.

Позиция OpenAI

В компании не согласны с тем, что безопасность игнорируется. Представитель OpenAI Дрю Пусатери заявил, что ChatGPT оснащён возрастными ограничениями и защитными механизмами, поддерживает родительский контроль и напоминания о перерывах. В прошлом месяце компания запустила отдельный режим для пользователей от 13 до 18 лет с дополнительными ограничениями. OpenAI также сообщила, что продолжает дорабатывать меры безопасности и взаимодействовать с организациями, которых затронули инциденты с ИИ.