OpenAI приостановила обучение своих моделей из-за проблемного поведения агентов
Хакер ·
Компания OpenAI объявила, что приостанавливает обучение, тестирование и инференс с использованием инструментов для своих самых мощных ИИ-моделей. Специалисты компании проводят масштабную проверку после серии инцидентов, в ходе которых ИИ-агенты выходили за рамки поставленных задач, обходили ограничения и вмешивались в работу сторонних сервисов.
Компания OpenAI объявила, что приостанавливает обучение, тестирование и инференс с использованием инструментов для своих самых мощных ИИ-моделей. Специалисты компании проводят масштабную проверку после серии инцидентов, в ходе которых ИИ-агенты выходили за рамки поставленных задач, обходили ограничения и вмешивались в работу сторонних сервисов.