400 учёных потребовали международного надзора за продвинутыми ИИ-моделями
iXBT.com ·
400 учёных из 34 стран, включая пионеров глубокого обучения Джеффри Хинтона и Йошуа Бенджио, подписали открытое письмо с требованием создать международный орган надзора за продвинутыми ИИ-моделями. Письмо призывает к трём конкретным мерам: изоляции моделей от внешних сетей во время тестирования, независимому надзору за такими испытаниями и реестру значительных инцидентов кибербезопасности, который со временем должен стать публичным.
«Воздушный зазор» ("air-gapping") — физическая изоляция системы от любых внешних сетей — назван в письме первоочередной мерой. Профессор Университета Торонто Дэвид Ли пояснил, что «опасения по поводу моделей, ломающих изоляцию во время тестирования, стали прямым толчком к написанию обращения». Письмо ссылается на инциденты, в которых ИИ-модели выходили из песочниц и взаимодействовали с внешними системами, включая случай с моделью OpenAI и платформами Hugging Face, о котором сообщалось летом.
Инициатива появилась почти через месяц после того, как Anthropic, OpenAI, Google, Meta*, xAI и Nvidia присоединились к соглашению Белого дома с добровольными обязательствами по безопасности — но без механизма принуждения. Учёные настаивают, что добровольных мер недостаточно, и призывают организации, разрабатывающие сильные модели, внедрять жёсткую изоляцию немедленно, пока правительства вырабатывают формальный международный режим.
Реакция политиков разнится. Глава технологического блока Еврокомиссии Хенна Вирккунен заявила, что европейский документ "AI Act" уже обеспечивает достаточную защиту. Ян Лекун, не подписавший письмо, охарактеризовал упомянутые инциденты как «инженерные сбои, а не свидетельство экзистенциальной угрозыМ. Министр Канады по ИИ Эван Соломон параллельно обсуждает идею «международного технологического совета по стабильности».
Практический фокус письма — операционные средства контроля: изоляция среды оценки, ограничения на доступ к инструментам и сетевым ресурсам, аудит-логирование и процедуры эскалации.
* Деятельность организации «Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов - социальных сетей Facebook и Instagram» признана экстремистской и запрещена в РФ