Сугубо вкусовщина без экспертного мнения. В моем мире, catboost больше для предметной области с категориальными фичами. А xgboost перед lightgbm выбираю, когда есть мощности вычислительные, но нужна модель полегче. У меня задача как раз с числовыми фичами и важен вес, ибо выполняется на айфоне.
Повторюсь, то, что я выше прочитал - просто отклики, которые я нашел в интернетах, с радостью выслушаю другую точку зрения