Почему дефолтный Feature Importance в бустинге врёт
Habr ·
Недавно для я озадачился проектом — создать автономного ML‑агента для табличных данных. На этапе отбора признаков логика Feature Selection казалась очевидной. Агент строит быстрый бейзлайн на LightGBM, смотрит на feature_importances_ , отсекает часть и вперёд. Агент после работы отчитался: размерность снижена. Но на тесте RMSE деградировала. Оказалось, что агент отсекал часть очень важных признаков. Читать далее