Anthropic предложила запретить властям США блокировать ИИ-модели без решения суда
iXBT.com ·
Anthropic представила американским законодателям проект закона, который ограничивает полномочия федеральных властей по приостановке разработки и использования передовых моделей искусственного интеллекта. Конфиденциальный документ получил портал Politico. Согласно проекту, власти смогут добиваться запрета на выпуск или использование модели, только если она создаёт предсказуемую и непосредственную угрозу ущерба свыше $1 млрд либо гибели или тяжёлых травм более чем у 50 человек. При этом угроза должна быть связана с созданием или распространением биологического оружия, выходом модели из-под контроля разработчика или кибератакой.
Министерство торговли США не сможет самостоятельно остановить работу модели: для этого ему потребуется получить решение федерального суда округа Колумбия. Проект также запрещает другим федеральным ведомствам и должностным лицам приостанавливать разработку, развёртывание или внутреннее использование таких моделей. Независимая оценка должна будет регистрироваться в Министерстве торговли, ответственные за неё — периодически проверять разработчиков и их модели. Им разрешат получать оплату от проверяемых компаний, если размер вознаграждения не зависит от результатов проверки. Если оценка выявит непосредственную угрозу, подпадающую под закон, то оценщик должен уведомить ведомство в течение 72 часов после завершения проверки.
Проект предусматривает обязательные правила безопасности для разработчиков передовых моделей, публикацию отчётов о прозрачности, защиту информаторов и передачу сведений о критических инцидентах в Министерство торговли. Представитель Anthropic заявил, что документ отражает положения Advanced AI Framework — системы требований к безопасности сильных ИИ-моделей, которую компания продвигает среди федеральных властей и властей штатов с июня. По словам представителя, компания считает эти меры разумными и призывает Конгресс принять их.
При этом законопроект ограничит действие некоторых требований штатов, касающихся раскрытия рисков для общественности, независимых оценок и отчётности о критических инцидентах.
Документ появился на фоне обсуждения других федеральных инициатив по регулированию ИИ. В Сенате отдельные законодатели также работают над мерами против катастрофических рисков ИИ, тогда как некоторые политики и сторонники безопасности технологий выступают за более строгий надзор или приостановку разработки передовых систем. Предложение Anthropic устанавливает более узкие основания для вмешательства властей, чем подходы, предусматривающие широкую проверку перед выпуском моделей.
Законопроект пока остаётся предложением компании: Конгрессу предстоит решить, принимать ли такие ограничения и как соотнести единые федеральные правила с действующими требованиями отдельных штатов.