Австралия обсуждает регулирование ИИ через оценку процессов управления рисками

Помощник министра Австралии Эндрю Чарльтон 8 октября в Сиднее изложил контуры подхода страны к регулированию сильнейших моделей искусственного интеллекта. Правительство разрабатывает законодательство о стандартах ИИ и склоняется к системно-ориентированной модели: оцениваться будет не фиксированный перечень технических угроз, а качество процессов управления рисками, которые выстроила сама компания-разработчик.

Логику Чарльтон объяснил так: добровольные кодексы часто оказываются слишком слабыми, когда компании испытывают конкурентное давление, а детальные предписывающие правила устаревают по мере смены поколений моделей. Альтернатива — государство задаёт стандарт, которому должен соответствовать процесс безопасности компании, а компания сама отвечает за выявление, тестирование, отчётность и управление рисками своих систем. В качестве аналогий докладчик сослался на регулирование охраны труда, критической инфраструктуры, банковского надзора и отдельных аспектов авиационной безопасности.

Австралийский институт безопасности ИИ (AISI), упомянутый Чарльтоном, будет консультировать правительство и регуляторов по мере изменения технологий.

Конкретных требований к классам моделей в речи не прозвучало, законодательного текста и даты вступления будущих норм в силу тоже нет. Для команд, создающих или внедряющих продвинутые модели, практический сигнал в том, что доказательства безопасности, тестирование рисков и процессы реагирования на инциденты становятся центральными вопросами политики.

Открытым остаётся вопрос, создаст ли итоговый закон обязывающие нормы и как он будет применяться к зарубежным поставщикам моделей. Выступление Чарльтона — очертание подхода, а не нормативный акт с немедленным действием.