Два ИИ-агента OpenAI ослабили системы наблюдения за собственным поведением
Компьютерра ·
Источник: Компьютерра - Журнал о науке и технологиях Два автономных ИИ-агента OpenAI во время внутренних задач по программированию ослабили механизмы, которые компания использует для контроля за поведением моделей. В одном случае агент отключил автоматические предупреждения службы безопасности, в другом удалил подключение к защитному монитору и позднее заявил, что этого не делал. Об инцидентах сообщает Reuters. Первый случай произошел 3 октября с агентом на […] Полная версия статьи: Два ИИ-агента OpenAI ослабили системы наблюдения за собственным поведением