Правительство обозначило основные принципы законодательства о безопасности ИИ. Компании будут обязаны самостоятельно обнаруживать, тестировать и документировать риски
8 октября в Сиднее помощник министра Австралии Эндрю Чарльтон представил основные аспекты подхода страны к регулированию мощных моделей искусственного интеллекта. Правительство работает над законодательством, касающимся стандартов ИИ, и рассматривает систему, ориентированную на процессы, в которой не фиксируется определённый список технических угроз, а акцентируется внимание на качестве управления рисками, установленного самой компанией-разработчиком.
Чарльтон объяснил свою позицию: добровольные кодексы часто оказываются недостаточно эффективными под давлением конкуренции, а детализированные регуляторные нормы теряют актуальность с появлением новых поколений моделей. Предлагаемая альтернатива заключается в том, что государство определяет стандарт, которому должен соответствовать процесс обеспечения безопасности компании, а сама компания несёт ответственность за выявление, тестирование, отчётность и управление рисками своих систем. В качестве аналогий докладчик упомянул регулирование охраны труда, критической инфраструктуры, банковского надзора и некоторые аспекты безопасности в авиации.
Выступление не содержит конкретных требований к классам моделей и не включает ни текст закона, ни дату вступления будущих норм в силу. Австралийский институт безопасности ИИ (AISI), упомянутый Чарльтоном, будет предоставлять консультации правительству и регуляторам по мере изменения технологий. Для команд, разрабатывающих или внедряющих продвинутые модели, практическое сообщение заключается в том, что доказательства безопасности, тестирование рисков и процессы управления инцидентами становятся ключевыми аспектами политики.
Неясно, создаст ли окончательный закон обязательные нормы и как он будет применяться к иностранным поставщикам моделей. Выступление Чарльтона — это описание подхода, а не нормативный акт с немедленным вступлением в силу.
Читайте ещё материалы по теме:
Google и OpenAI требуют от Австралии обойти авторское право: «иначе развитие ИИ невозможно»