Ну то есть мне интересно, что в этом плане можно сделать в рантайме такого, что нельзя сделать во время компиляции
В во время компиляции есть единицы трансляции (TU, translation unit). При обычной линковке ничего не поделать. Но если есть LTO (clang/GCC, link time optimization)/LTCG (MSVC, link time code generation) или даже тот же JIT, то все варианты использования известны и некоторые оптимизации становятся возможны