wasm уже был создан так, что бы занимать как можно меньше места, именно поэтому он использует LEB128 где только можно, использует стековую структоризацию, поддержывает несколько вариантов выхода из CFG, а так же все CFG инструкции поддерживают опциональный возвращаемый тип и т д. Можно придумать более эффективный с точки зрения выполнения байткод, но с точки зрения компактности - это вряд ли. Кроме того, нужно учитывать оверхед на сам код для подобного встроенного компилятора