Есть множество статей, чем плох R-квадрат как метрика предсказательной силы, как метрика качества модели, как метрика для сравнения моделей и тп. Но в целом никакого консенсуса по поводу R-квадрата толком нет. Особенно в социальных науках, где предсказательная сила моделей зачастую крайне низка. Под социальными науками я в большей степени имею в виду социологию, политологию, психологию и в меньшей степени экономику. Это частично объясняется тем, что собственно задача предсказания в социальных науках ставится гораздо реже, чем задача объяснения. Поэтому, собственно, так популярны интерпретируемые модели - всевозможные разновидности регрессий.
Про это есть хорошее высказывание:
Y = a + b1*x + e
Статистика интересует "b1", а дата саентиста "Y". Статистика (социолога, политолога, психолога и тп) интересует характер связи между переменными, а дата саентиста предсказание зависимой переменной.
Подробнее про объяснительное и предсказательной моделирование можно прочитать в этой статье:
https://www.stat.berkeley.edu/~aldous/157/Papers/shmueli.pdfКлючевая мысль в том, что модель с неправильно оцененными параметрами (b1) может давать лучшие предсказания, чем модель с корректными оценками коэффициентов. В данном случае речь идет про обычную линейную регрессию. Мораль в том, что задачи объяснения и предсказания - это разные задачи.
Вопрос можем ли мы что-то про что-то утверждать имея слабую предсказательную силу - философский. В социальных науках, повторюсь, предсказательная сила моделей крайне низка.
Например, недавний предсказательный контест на данных лонгитюдного опроса детей в Америке (опубликованного в PNAS - 3ий по цитируемости журнал в мире после Nature и Science) показал, что даже на очень хороших данных и используя всевозможные ML модели мы не можем с высокой точностью предсказывать средний балл 15 летних школьников, зная про них все что только можно, начиная с рождения.
Ссылка на статью:
https://www.pnas.org/content/early/2020/03/24/1915006117