У меня на ноуте такая тема была. Хз, решили ли вопрос дальше в диалоге, не читал еще.
Суть: Винда забирает в резерв несколько Гб и не юзает их совсем. Это говно можно отключить, тут уж гугли сам. Помню, что делается это где-то в параметрах и сложности не вызывает. По поводу рендера, даже 8гб тебе будет недостаточно для твоей сцены. Проще докупить палку хотя б на 8 ещё.