Судя по описанию ниже, вы всё делаете правильно. Похоже, что вы упёрлись в лимиты на растре очень большого размера. На эту тему в багтрекере Qgis есть целая
вязанка тикетов. Проблема до конца не локализована, но склоняются к тому, что ноги растут из ограничений Qt и в обозримом будущем с этим ничего сделать не получится. Чтобы проверить, можете попробовать экспортировать в растр с низким dpi и постепенно его наращивать пока не словите вылеты. Так сможете прощупать «пределы» в вашем случае. Далее либо экспорт с низким разрешением в растр, либо бить на листы размером поменьше. Либо, как вариант, попробовать отказаться в оформлении от любых эффектов которые требуют растрирования при экспорте и экспортировать с опцией «только вектор» если это возможно в вашем случае.