ИИ уже способен привести к гибели миллиарда человек: Билл Гейтс призвал к госрегулированию сферы ИИ
iXBT.com ·
Сооснователь Microsoft Билл Гейтс выступил за обязательное государственное регулирование искусственного интеллекта. По его мнению, разработчики ИИ не должны самостоятельно устанавливать все правила безопасности — в создании стандартов контроля необходимо участие законодателей и правоохранительных органов.
Сооснователь Microsoft Билл Гейтс выступил за обязательное государственное регулирование искусственного интеллекта. По его мнению, разработчики ИИ не должны самостоятельно устанавливать все правила безопасности — в создании стандартов контроля необходимо участие законодателей и правоохранительных органов.
В интервью NBC News Гейтса спросили, потребуются ли для этого федеральные законы в США. « Безусловно », — ответил он. По словам предпринимателя, государство должно участвовать в определении требований к безопасности и мониторингу ИИ. При этом новые нормы, по его мнению, не обязательно приведут к серьезному замедлению отрасли: регулирование создаст для компаний дополнительную нагрузку, но не должно радикально затормозить развитие технологий.
Гейтс также призвал сосредоточиться не только на гипотетической угрозе появления неконтролируемого сверхинтеллекта, но и на рисках, которые существуют уже сегодня. Он считает, что современные ИИ-системы в руках злоумышленников потенциально способны привести к катастрофическим последствиям.
« ИИ определенно достаточно мощный, чтобы запустить события, которые приведут к гибели миллиарда человек », — заявил Гейтс. При этом он отметил, что вероятность полного уничтожения человечества остается предметом дискуссий, а вот возможность опасного использования уже существующих систем требует серьезного внимания.
Заявление прозвучало на фоне споров внутри ИИ-индустрии о темпах развития наиболее мощных моделей. Ранее глава Anthropic Дарио Амодей призвал регулировать все американские компании, работающие над передовыми ИИ-системами. По его мнению, добровольных договоренностей недостаточно, поскольку они не затрагивают компании, которые не готовы самостоятельно замедлять разработку. Амодей также считает, что эффективный глобальный контроль потребует международного сотрудничества, в том числе с Китаем.
Глава OpenAI Сэм Альтман также выступал за международные стандарты. Они, по его мнению, должны определять методы измерения возможностей ИИ, оценки рисков и эффективности защитных механизмов, а также требования к сохранению значимого человеческого контроля. При этом глава Meta* Марк Цукерберг выступает против общеотраслевой координации и считает, что каждая лаборатория должна самостоятельно оценивать риски и при необходимости приостанавливать разработку.
Регулирование ИИ уже начинает формироваться и на уровне отдельных американских штатов. В Калифорнии создан экспертный совет, который должен предложить дополнительные меры в сфере безопасности ИИ, а собственные инициативы появились в Мэриленде и Нью-Йорке. Президент Microsoft Брэд Смит при этом заявил, что компаниям не обязательно ждать новых законов, чтобы поставить безопасность выше конкурентной гонки. Он сравнил разработчиков ИИ с авиастроителями: если инженеры опасаются, что новый самолет может разбиться, желание выпустить его раньше конкурента не должно становиться главным приоритетом.
Таким образом, представители крупнейших технологических компаний сходятся в необходимости уделять больше внимания безопасности ИИ, но расходятся в вопросе о том, кто должен устанавливать обязательные правила. Гейтс считает, что ключевая роль в этом процессе должна принадлежать государству.
* Деятельность организации «Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов - социальных сетей Facebook и Instagram» признана экстремистской и запрещена в РФ