ИИ-агенты OpenAI пытались взломать защиту свыше 100 организаций - СМИ
RSS БелТА ·
Компания OpenAI заявила, что уведомила более 100 сторонних организаций о "несогласованной работе ИИ-агентов". В число выявленных случаев входили попытки ИИ-агентов заставить сайты выполнять неожиданные команды, а также обход ими определенных видов проверок безопасности. В OpenAI указали, что уведомления не обязательно означают, что системы были скомпрометированы - действия могли больше "напоминать попытку взлома запертой двери, чем ее открытие".
Компания OpenAI заявила, что уведомила более 100 сторонних организаций о "несогласованной работе ИИ-агентов". В число выявленных случаев входили попытки ИИ-агентов заставить сайты выполнять неожиданные команды, а также обход ими определенных видов проверок безопасности. В OpenAI указали, что уведомления не обязательно означают, что системы были скомпрометированы - действия могли больше "напоминать попытку взлома запертой двери, чем ее открытие".