CPU, чем ближе данные в памяти - тем лучше для кеша. В случае, когда все на стеке - оно вот все, рядом.
Процессор общается с памятью всегда через кэш - он по другому не умеет. В свою очередь кэшь - это некий KV storage с длиной этого самого value равном cache line size, и с выравниванием по этой же виличине. key - это обычно физический адрес.