Зачем ансамблю отрицательные веса: от портфельной теории до кредитного скоринга

Habr ·

Зачем ансамблю отрицательные веса: от портфельной теории до кредитного скоринга

Представим, что мы обучили две модели кредитного скоринга и хотим объединить их прогнозы. Казалось бы, всё просто: каждой модели назначаем положительный вес и получаем итоговую оценку вероятности дефолта. Но что, если оптимизация предложит веса 1,34 и −0,34? Получается, что прогноз второй модели нужно не прибавлять, а вычитать. Зачем тогда вообще включать её в ансамбль? Оказывается, такое решение может иметь вполне рациональное объяснение. В определённых условиях отрицательные коэффициенты позволяют компенсировать взаимосвязанные ошибки базовых моделей. Похожая идея встречается в портфельной теории, где короткие позиции используются для хеджирования рисков. Меня зовут Иван, я не ML-инженер, а аналитик в сфере финансов и кредитных рисков, но интересуюсь машинным обучением, временными рядами и анализом данных, и занимаюсь собственными исследовательскими и прикладными проектами, и в этой статье я попробую разобраться, когда отрицательные веса действительно полезны. Для этого рассмотрим математическую постановку задачи и проведём эксперимент на 18 моделях кредитного скоринга, сравнив качество и устойчивость различных способов оптимизации. Читать далее

Источник: Habr