Маллок это сисколл
Ядро не знает про всю оперативную память?
Маллок внутри себя для запроса памяти использует ммап, которым он резервирует участок памяти в виртуальной памяти процесса.
Выделение реальной памяти от ОС будет при первом обращении к этому участку.
Если я правильно помню курс ОСей с универа, поправьте меня системщики, если тут они есть