«Красная кнопка» для ИИ: в США готовятся к киберкатастрофе и обсуждают механизм экстренного отключения сверхразума
iXBT.com ·
Крупнейшие американские разработчики искусственного интеллекта проводят закрытые обсуждения возможных последствий масштабной кибератаки.
Крупнейшие американские разработчики искусственного интеллекта проводят закрытые обсуждения возможных последствий масштабной кибератаки.
Как сообщает Axios, глава OpenAI Сэм Альтман и руководитель Anthropic Дарио Амодеи считают серьёзный инцидент с нарушением работы критической инфраструктуры одним из сценариев, к которым отрасли необходимо готовиться. В компаниях опасаются, что подобный кризис вызовет массовое недовольство разработчиками и администрацией президента США Дональда Трампа из-за недостаточного регулирования ИИ.
По данным издания, в OpenAI проводят учения, в рамках которых сотрудники разбирают различные потенциальные сценарии. В компании подчёркивают, что такие мероприятия не означают неизбежности описываемых событий, а предназначены для подготовки к возможным рискам.
На фоне этих опасений обсуждается введение механизма экстренного отключения передовых ИИ-систем. Эту идею поддерживают представители обеих партий США и часть бизнеса. При этом эксперты сомневаются, что запреты окажутся эффективными из-за распространения открытых моделей и зависимости мировой экономики от ИИ.
Дополнительным поводом для тревоги стала кибератака на южнокорейские банки. По данным CrowdStrike, китайский хакер использовал местные ИИ-модели, включая DeepSeek, для кражи данных десятков тысяч клиентов, а затем обратился к Claude Code за помощью в поиске площадок для продажи похищенной информации.
Некоторые представители индустрии допускают , что «восстание ИИ» может произойти в ближайшие 6–12 месяцев.