Четыре уровня защиты OpenAI выявляют нарушения со стороны ИИ до того, как они приведут к взлому
Компьютерра ·
Источник: Компьютерра - Журнал о науке и технологиях OpenAI представила систему мониторинга, которая должна обнаруживать случаи, когда ИИ-агенты отклоняются от заданных инструкций, пытаются обойти ограничения или выполняют несанкционированные действия. Она проверяет поведение моделей во время обучения, тестирования и работы с инструментами, а при серьезных угрозах позволяет привлечь специалистов по безопасности и остановить выполнение задач. Разработчики объясняют, что необходимость усилить контроль стала очевидной после […] Полная версия статьи: Четыре уровня защиты OpenAI выявляют нарушения со стороны ИИ до того, как они приведут к взлому