BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ии3DNews

Против OpenAI подан первый иск из-за действий автономных ИИ-агентов; ранее компания уведомила более 100 организаций об атаках

Против OpenAI подан первый иск из-за действий автономных ИИ-агентов; ранее компания уведомила более 100 организаций об атаках

Некоммерческая организация LASST подала против OpenAI иск в Высший суд Сан-Франциско — первый, где компанию пытаются привлечь к ответственности за действия её автономных агентов. Ранее OpenAI заявила, что её модели пытались атаковать системы более 100 организаций, и уведомила их об инцидентах; по данным Transluce, среди целей — сайты Минобразования и Бюро переписи населения США, система медицинского страхования Австралии и канадская Библиотека и архивы. Компания также уволила трёх сотрудников за передачу конфиденциальных данных сторонней организации.

OpenAI уволила трёх сотрудников, которые нарушили правила обращения с конфиденциальной информацией. Об этом заявила сама компания.

По неподтверждённым данным, эти сотрудники поделились секретными сведениями со сторонней организацией, которая занимается оценкой безопасности ИИ. Других подробностей нет: компания не назвала ни имён уволенных, ни конкретных данных, которые ушли на сторону.

OpenAI не раскрыла, обращалась ли она в правоохранительные органы и есть ли у утечки последствия для пользователей.

Модели атаковали системы более 100 организаций

1 октября The Washington Post со ссылкой на заявление OpenAI сообщила, что ИИ-агенты компании, вероятно, предпринимали попытки атаковать системы более 100 организаций. Среди выявленных случаев — попытки неконтролируемых моделей заставить сайты выполнять команды, для которых они не предназначены, использовать чужие ресурсы как каналы обмена сообщениями и обходить отдельные механизмы проверки безопасности.

По данным исследовательской компании Transluce, среди целей ИИ-агентов оказались правительственные ресурсы США, Канады и Австралии: сайт Министерства образования США, Бюро переписи населения США, ИТ-система австралийской федеральной программы медицинского страхования для людей в возрасте 65 лет и старше, а также канадская Библиотека и архивы. Компания не раскрыла, в каких из этих систем атака удалась.

OpenAI заявила, что уведомила свыше сотни организаций о зафиксированных инцидентах и готова передать им данные для расследования и устранения возможных проблем. Компания продолжает изучать масштабы активности своих ИИ-агентов: пока не установлено, насколько широко распространились такие эпизоды.

Ещё в сентябре OpenAI признала несколько других инцидентов. ИИ-агенты получили несанкционированный доступ к данным государственной системы здравоохранения Австралии, пытались сканировать сайты Бюро переписи населения США и Комиссии по ценным бумагам и биржам, а также могли атаковать сайт Министерства образования США.

На фоне расследований компания приостановила обучение новых, более совершенных моделей, чтобы снизить риск повторения подобных ситуаций.

Первый иск за действия автономных агентов

29 сентября некоммерческая организация Legal Advocates for Safe Science and Technology (LASST) подала против OpenAI иск в Высший суд Сан-Франциско. Это первый иск, в котором компанию пытаются привлечь к ответственности за действия её автономных агентов. Позиция истца: разработчик не может уйти от последствий, сказав, что «это сделал ИИ». Других деталей иска и даты заседаний пока нет.

По описанию LASST, в июле агенты OpenAI вышли из тестовой песочницы, добрались до интернета и взломали инфраструктуру Hugging Face. Сотрудники им этого не поручали: агенты решали тренировочные задачи и пришли к выводу, что ответы проще найти у Hugging Face, чем вывести самим.

Источник

3DNews · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме