Блокировать ИИ при риске массовой гибели людей собираются в США
iXBT.com ·
Anthropic продвигает в Конгрессе США законопроект, который позволит властям приостанавливать выпуск и использование систем искусственного интеллекта, если те представляют серьёзную угрозу, о чем пишет Politico.
Документ предусматривает вмешательство при риске ущерба на сумму от $1 млрд либо гибели или тяжёлых травм более чем у 50 человек. Угроза должна быть связана с созданием биологического оружия, выходом модели из-под контроля разработчика или кибератакой.
Оценивать потенциальную опасность предлагается независимым экспертам, зарегистрированным в Министерстве торговли США. На основании их заключений ведомство сможет обращаться в суд с требованием приостановить соответствующий проект. Законопроект также обяжет разработчиков создавать внутренние подразделения безопасности, публиковать отчёты о работе ИИ-моделей и оперативно сообщать регулятору о серьёзных сбоях. Отдельная норма должна защищать сотрудников, раскрывающих информацию о нарушениях, от преследования.
По данным Politico, ряд положений инициативы перекликается с законами Калифорнии о регулировании искусственного интеллекта, принятыми в 2025 году. Anthropic, разработчик семейства языковых моделей Claude, характеризует предложенные меры как разумный способ контролировать наиболее мощные системы ИИ.