Дефицит памяти - это относительно нормальная история в случае с ОС. У тебя 1Гб физической памяти, пара процессов попросила по 512Мб но пока эту память не трогало. Помимо этого есть разного рода кеши, структуры ядра итд. И одно дело у тебя приложение просит ещё памяти(и тут можно вернуть ENOMEM), а другое - когда память нужна драйверу фс. Прямо сейчас дать столько попросили ты не можешь, но вот подрезав кеши, попозже - вполне.
Но всё, что может сделать рантайм - это просто свалиться с паникой. Собственно, те же претензии к тому что сейчас на rust пытается въехать в ядро: паника там где её быть не должно.