Из последнего опыта: надо фаззить. Уже на очень маленьких инпутах могут находиться плохие случаи.
Вот, постигаю искусство фаззинга геометрии

А дальше понимать, как быть с плохими инпутами.

VRS с MSAA как-то совместно используется?

Фаззить?

y

Не понимаю

yes

А что это значит вообще (я про само действие)?

это значит генерировать случайные корректные инпуты для алгоритма в надежде, что код крашнется или вызовет abort (из assert-а, например)

есть более интеллектуальные способы

например прикрутить генетический алгоритм

там два оператора — кроссовера (смешиваешь два корректных инпута, чтобы получить другой корректный инпут) и мутации (из корректного инпута делаешь чуть-чуть другой корректный инпут)

kd-tree, обязательно изучу гит репозиторий

Может там лучше реализация, чем у меня есть

далее есть способы для отсеивания инпутов так, чтобы фаззинг лучше искал ошибки

например неплохо бы, чтобы набор инпутов вызывал срабатывание как можно большего количество бранчей, вызывал для рекурсивных функций разные глубины вызова (в т.ч. выявил условия при которых оно бесконечное) и т.п.

Я просто хочу полностью реализовать kd-tree (почти сделано), r-tree и bvh. Именно на интерес, ну и получить структуры, чтобы перфоманс был хороший

например в if (a || b) хорошо бы обе "причины" срабатывания проверить

для этого существует profile-guided fuzzing — код собирается специальным образом (инструментируется) и во всех таких местах, где есть ветвление, вставляются дешёвые счётчики: заводится массив специальный (например, с unsigned char-ами) counters и в начале каждого (условно говоря) if и else ставится ++counters[i];. Периодически эти counters проверяются и если какой-то инпут привёл к тому, что какой-то новый, ещё не сработавший ранее счетчик (и соответственно путь исполнения) сработал, то такой инпут сохраняется. И потом уже генетическим алгоритмом мутируется или комбинируется с другими инпутами из так называемого "корпуса".

Это про генерацию входных данных для тестирования?