Упрощайте модель:
1) уменьшаем признаковое пространство (можете выкинуть по пермутейшн разнице, можете добавить колонку с шумом и удалить все, что имеет важность ниже шума). В общем по отбору фич много стратегий и на корреляции лучше вообще не смотреть
2) уменьшайте глубину деревьев/увеличивайте минимальное кол-во наблюдений в листе
3) l1/l2 регуляризация
Спасибо, пермут, что это?))