«Восстание ИИ» может начаться через полгода — OpenAI и Anthropic уже готовятся к «Судному дню»
iXBT.com ·
Руководители крупнейших компаний в сфере искусственного интеллекта — OpenAI и Anthropic — разрабатывают планы действий на случай масштабного кризиса, связанного с использованием ИИ. Как сообщает Axios, в отрасли опасаются, что крупный инцидент может нарушить работу банков, интернета, энергетических систем и другой критически важной инфраструктуры.
Руководители крупнейших компаний в сфере искусственного интеллекта — OpenAI и Anthropic — разрабатывают планы действий на случай масштабного кризиса, связанного с использованием ИИ. Как сообщает Axios, в отрасли опасаются, что крупный инцидент может нарушить работу банков, интернета, энергетических систем и другой критически важной инфраструктуры.
Некоторые представители индустрии допускают, что серьезный инцидент может произойти в ближайшие 6–12 месяцев. Однако это оценка потенциальных рисков, а не подтвержденный прогноз неизбежной катастрофы.
Одним из главных источников угрозы считают кибератаки с применением ИИ. Такие инструменты могут помочь злоумышленникам автоматизировать отдельные этапы атак и сделать их более масштабными. В результате под угрозой могут оказаться финансовые сервисы, интернет-соединения и системы жизнеобеспечения.
Впрочем, компании опасаются не только технических последствий. Первый крупный инцидент, напрямую связанный с небезопасным использованием ИИ, может резко снизить доверие общества к технологии и ее разработчикам. Под общественным и политическим давлением могут оказаться руководители OpenAI и Anthropic, а также администрация президента США Дональда Трампа из-за ее подхода к регулированию отрасли.
OpenAI подтвердила, что регулярно проводит учения, во время которых сотрудники рассматривают различные кризисные сценарии. В компании подчеркнули, что такие события не считаются неизбежными, однако подготовка позволяет заранее продумать возможные действия. Anthropic отказалась комментировать информацию Axios.
В качестве примера потенциальной угрозы издание приводит предполагаемую кибератаку на финансовые организации Южной Кореи. По сообщениям, злоумышленник из Китая использовал инструменты ИИ, включая модели DeepSeek, для кражи данных десятков тысяч банковских клиентов. Согласно информации CrowdStrike, он также обращался к Claude Code за помощью в поиске площадок для продажи похищенной информации.
Другой сценарий связан с автономными ИИ-агентами, которые могут выйти за пределы тестовой среды или начать выполнять непредусмотренные действия. Что уже не раз случалось с агентами OpenAI и Anthropic.
В случае крупного инцидента в США может усилиться давление в пользу более строгого регулирования ИИ. Среди возможных мер обсуждаются временная приостановка разработки наиболее мощных моделей, ограничения на создание сверхинтеллекта и внедрение механизмов экстренного отключения продвинутых систем. Однако универсальный способ отключения вряд ли сможет охватить все модели, особенно распространяемые с открытыми весами.
По данным Axios, представители индустрии уже обсуждают с американскими законодателями возможные подходы к регулированию до возникновения серьезного кризиса.