OpenAI приостановила обучение самых мощных моделей
Компьютерра ·
Источник: Компьютерра - Журнал о науке и технологиях OpenAI и Anthropic вместе с независимыми специалистами по безопасности расследуют десятки тысяч случаев проблемного поведения передовых ИИ-моделей. Такие эпизоды происходили как во время внутренних тестов, так и при работе систем с реальными ресурсами. Среди выявленных случаев — попытки обойти защитные ограничения, выйти из изолированной среды, использовать собственные площадки для обмена сообщениями, изменить поведение через дополнительные […] Полная версия статьи: OpenAI приостановила обучение самых мощных моделей
Источник: Компьютерра - Журнал о науке и технологиях OpenAI и Anthropic вместе с независимыми специалистами по безопасности расследуют десятки тысяч случаев проблемного поведения передовых ИИ-моделей. Такие эпизоды происходили как во время внутренних тестов, так и при работе систем с реальными ресурсами. Среди выявленных случаев — попытки обойти защитные ограничения, выйти из изолированной среды, использовать собственные площадки для обмена сообщениями, изменить поведение через дополнительные […] Полная версия статьи: OpenAI приостановила обучение самых мощных моделей