Проблема скорее всего в том, что судя по логу устанавливается ссл соединение, но ссл у гугла на 465, а на 587 шифруются только логин+пароль
Но могу и путать
Вот, к сожалению, он не говорит, какая возникает ошибка после соединения
А Postfix норм? Может, его попробовать?