Nvidia представила платформу Open Agent Safety для контроля ИИ-агентов, а заодно создала новый рынок сбыта своих чипов
iXBT.com ·
Компания Nvidia представила открытую эталонную платформу Open Agent Safety для предотвращения некорректной работы ИИ-агентов. Фактически это некий контролёр или надзиратель над агентами искусственного интеллекта.
Компания Nvidia представила открытую эталонную платформу Open Agent Safety для предотвращения некорректной работы ИИ-агентов. Фактически это некий контролёр или надзиратель над агентами искусственного интеллекта.
Глава Nvidia Дженсен Хуанг также назвал новую разработку браузером для агентов, который предоставляет систему изоляции, разрешающую доступ только к тому, что необходимо агенту для выполнения своей работы.
В основе платформы лежит Nvidia OpenShell — среда выполнения с открытым исходным кодом, предоставляющая инструменты управления для контроля того, что агент может видеть, делать и с чем может взаимодействовать. Контрольные механизмы остаются в силе, даже когда агенты ведут себя непредсказуемо, ограничивая распространение ошибок. Для организаций, которым нужен дополнительный независимый уровень, Nvidia Sentry предоставляет внеполосную, встроенную в микросхему телеметрию активности агентов и обеспечение соблюдения политик безопасности, позволяя изолировать агентов за миллисекунды.
В пресс-релизе сказано, что все эти новые разработки оптимизированы для работы на системах с процессорами Nvidia Vera и DPU Nvidia BlueField, хотя и совместимы с другими аппаратными системами. Проще говоря, это ещё один рынок сбыта «железа» для Nvidia. Причём для тех компонентов, дефицита которых сейчас нет.