Добрый день.
Вопрос: При снижении размерности как быть с бинарными признаками, с ними тоже приводить стандартизацию для снижения размерности или добавлять их в виде 0/1 после стандартизации ? Или мб есть пример и как правильно ?

есть такой подход, если мы говорим о моделях. у которых есть атрибут coef_ или feature_importances_, как в xgboost - SelectFromModel sklern. допустим, у вас есть 62 признака значимых, вы их сортируете по значимости и начинаете с помощью этого прибамбаса удалять по одному признаку и смотреть что получится, как в примере. В итоге вы увидите минимальтное количество признаков, которое можно оставить без понижения скора

и там, касательно xgboost, есть два вида важности признаков. по умолчанию оно показывает, как в графике plot_importance важности важные с точки зрения регрессии. их можно выудить следующим способом:

а есть еще важности для классификации, они получаются следующим способом:

или тоже самое взвешенное:

Гуд! Спасибо!!!!!!!!!

Скачал!👍🏻

Спасибо!

Что-то типа features_importances. Точно не помню как называется. Комп не под рукой. Помню там было два способа вызова информации о значимости признаков. Могу в личку ссылку скинуть на гитхаб свой с этим датасетом. Надо?:)

Супер! Буду рад!

Обратите внимание в книге все детално разбирается

👍

Может надо кому-нибудь....

юзайте пермутейшн импортанс и shap

В том, что скинул esperanto особое внимание оьратите на overfitting to predictors

Если коротко - фичи - это фактически гиперпараметры модели. И выбирать их надо как гиперпараметры

Иначе можете проделать простой эксперимент

Генерим случайно вектор Y из 0 и 1 размера n. И матрицу X размера nxm, тоже из 0 и 1. m - это признаки.
Можете легко набрать "значимых признаков", если не будете кроссвалидироваться

👍🏻