Австралия пойдёт по пути техники безопасности: регулировать будут не список угроз, а качество процесса управления рисками ИИ
iXBT.com · · g2147714
Помощник министра Австралии Эндрю Чарльтон 8 октября в Сиднее представил контуры подхода страны к регулированию сильнейших моделей искусственного интеллекта. Правительство разрабатывает законодательство о стандартах ИИ и рассматривает системно-ориентированную модель, при которой оценивается не фиксированный список технических угроз, а качество процессов управления рисками, выстроенных самой компанией-разработчиком.
Помощник министра Австралии Эндрю Чарльтон 8 октября в Сиднее представил контуры подхода страны к регулированию сильнейших моделей искусственного интеллекта. Правительство разрабатывает законодательство о стандартах ИИ и рассматривает системно-ориентированную модель, при которой оценивается не фиксированный список технических угроз, а качество процессов управления рисками, выстроенных самой компанией-разработчиком.
Чарльтон пояснил логику: добровольные кодексы часто оказываются слишком слабыми, когда компании испытывают конкурентное давление, а детальные предписывающие правила устаревают по мере смены поколений моделей. Предлагаемая альтернатива — государство задаёт стандарт, которому должен соответствовать процесс безопасности компании, а компания сама отвечает за выявление, тестирование, отчётность и управление рисками своих систем. В качестве аналогий докладчик сослался на регулирование охраны труда, критической инфраструктуры, банковского надзора и отдельных аспектов авиационной безопасности.
Речь не анонсирует конкретных требований к классам моделей и не содержит ни законодательного текста, ни даты вступления будущих норм в силу. Австралийский институт безопасности ИИ (AISI), упомянутый Чарльтоном, будет консультировать правительство и регуляторов по мере изменения технологий. Для команд, создающих или внедряющих продвинутые модели, практический сигнал состоит в том, что доказательства безопасности, тестирование рисков и процессы реагирования на инциденты становятся центральными вопросами политики.
Остаётся открытым, создаст ли итоговый закон обязывающие нормы и как он будет применяться к зарубежным поставщикам моделей. Речь Чарльтона — это очертание подхода, а не нормативный акт с немедленным действием.