D
Всё, больше нечего добавить...
Size: a a a
2021 May 03
D
Но забавно кстати, что id software в движках серии quake писали сравнение с нулём, типа == 0
D
Как будто плавающая точка может быть равна точно этому значению)
D
Меня этот факт позабавил
VD
Так может же. Другое дело что в вычислениях она вряд-ли будет если ты не умножаешь на 0
D
Ну может, да, действительно, если это выражение константно получается ну или саму переменную как 0.f задаешь. Тогда может быть, вполне.
D
Потому как я проверял, что если выполнить в си такое вычисление: 1 - 1/3 - 1/3 - 1/3, то там действительно результат 0 будет, но это выражение константно. А вот если сделать много вычислений где-то и у тебя вдруг каким-то образом сложилась такая же ситуация, но с переменными, то там уже я не думаю, что результат прям такой же будет.
M
Оно и в шеидерах по разному может быть. На нвидии и амд ловил разное значение 1/6 в компайл тайме. Если 6 передать в юниформе, будет одинаково
N
Так это unorm формат?
N
Если да, то, получается, 0.5 это 0.5 * 255 = 127.5, который округлится до 127
DP
DP
есть идеи как это исправить? или я могу расчитывать что это всегда и везде так и захардкодить решение?
N
Ну всё верно
N
Вон, 0.25 в флоте тоже точно представляется
N
Но в 8 битном нормализованном инте будет округлено
DP
что мне стоит изменить чтобы не было дрейфа?
грубо говоря так:
х=0.5
у=0.5
и потом в цикле
х+=х+у-1
я могу решить так:
х+=х+у-1-1/256
это надежное решение?
грубо говоря так:
х=0.5
у=0.5
и потом в цикле
х+=х+у-1
я могу решить так:
х+=х+у-1-1/256
это надежное решение?
N
Я не до конца понимаю, что конкретно ты делаешь. Записываешь 0.5 в текстуру и пытаешься тот же 0.5 прочесть?
DP
да
симуляция газа. 0.5 - не движется. 0 - движется влево. 1 - движется вправо
накопление ошибок сильно мешает уже через секунду
симуляция газа. 0.5 - не движется. 0 - движется влево. 1 - движется вправо
накопление ошибок сильно мешает уже через секунду
VD
Хм интересно почему не -1..1 ?