Да с чего это не отдаст? Это кеш ОС, которым также пользуется постгрес. И если какому-то третьему приложению потребуется память, то ОС должна, по идее, сбросить необходимое число грязных страниц (если они есть) на диск и освободить требуемую память из этого кеша.
А за пример ограничения - спасибо!