это как раз понятно и логично, но это дорого, так или иначе немало векторных произведений. В отношении хранить углы atan2 - это идея мне понравилась, спасиб)
Если в тупую то на 1 вершину получаешь например 6 треугольников, где по 3 проверки. Вроде не так много, но можно улучшить тут.