Nyc если абстрактно, то могу только сказать, что cgmath очень простая и прямолинейная библиотека, возможностей которой за глаза хватало для моих скромных трехмерных нужд; nalgebra - дико сложная хреновина, которую в игровом дискорде обычно обзывают "испытательным полигоном для растовых дженериков", но зато на ее основе вон целая экосистема вполне себе живая и развивающаяся есть:
https://rustsim.org