Ясно понятно, пошел дальше сам искать
Ну математическое описание это из раздела геометрии и стереометрии, а как это обрабатывает компьютер можно посмотреть на примере создания 3д движков с нуля. Именно работа OpenGL или DirectX - это совсем другая история