Но в перво случае я r2 получается на тех данных, что есть изначально, а в о втором на логорифме, если я обратно приведу к исходным данным, то он вообще отрицательный
Корреляция Пирсона меряет линейную связь поэтому если есть подозрение что переменные связаны экспоненциально логарифмирование переводит такую связь в линейную. Логично что коэфициент r^2 должен подрасти. Как они могут после экспонирования получаться другими нежели изначальные данные я не знаю - посмотри не вылазят ли у тебя NAN при логарифмировании - такое бывает в R например если значения очень маленькие - он принимает их за ноль и выдает NAN