Безопасность ИИ-систем 2026. Часть 1: нормативные акты и методологии защиты
Habr ·
Безопасность машинного обучения долгое время была нишевой темой: несколько исследовательских групп, десяток публикаций в год, минимум практических инструментов. Пару лет назад LLM и агентные системы вышли в промышленную эксплуатацию, и это привело к появлению новых регуляторных требований и инструментов для их выполнения. Запускаем цикл статей, в котором расскажем о базовом объеме знаний, необходимом каждому специалисту по безопасности ИИ-систем в 2026 году. Первая статья посвящена нормативно-правовому регулированию. В ней мы разберем, как устроена нормативная база в России, Китае, ЕС и США, рассмотрим ключевые методологии защиты ИИ-систем, среди которых как зарубежные STRIDE и OWASP, так и отечественные AI-SAFE и SAIMM. Читать далее
Безопасность машинного обучения долгое время была нишевой темой: несколько исследовательских групп, десяток публикаций в год, минимум практических инструментов. Пару лет назад LLM и агентные системы вышли в промышленную эксплуатацию, и это привело к появлению новых регуляторных требований и инструментов для их выполнения. Запускаем цикл статей, в котором расскажем о базовом объеме знаний, необходимом каждому специалисту по безопасности ИИ-систем в 2026 году. Первая статья посвящена нормативно-правовому регулированию. В ней мы разберем, как устроена нормативная база в России, Китае, ЕС и США, рассмотрим ключевые методологии защиты ИИ-систем, среди которых как зарубежные STRIDE и OWASP, так и отечественные AI-SAFE и SAIMM. Читать далее