Ibp
я делал через SelectKBest из sklearn.feature_selection, мне помогло
Тут есть подводные камни, поскольку отбор ведётся по связи данного конкретного признака с откликом, ищет наиболее близкий к коллинеарности, грубо говоря. А ведь если учесть взаимодействия между признаками, получится, что наиболее важные векторы признаков могут быть направлены совсем в другую сторону, чем отклик, но по векторной сумме именно его и давать.. У меня просадка была по kbest, помог сильно просто ручной перебор признаков по одному, feature_importances помог здесь, кстати