Size: a a a

2021 April 17

NE

Nyc Enas in pro.algorithms
про степени, там же код такой
константа = 1 / золотое_сечение;
f get_next(предыдущее) { return (предыдущее + константа).дробная_часть(); }
источник

DP

Defragmented Panda in pro.algorithms
есть идеи как искуственно занизить точность мантисы float?

например есть 10бит мантиса float

для упрощения поиска циклов я хочу уменьшить точность мантисы до 5 бит - циклы видны проще
источник

NE

Nyc Enas in pro.algorithms
занулить последние биты
источник

DP

Defragmented Panda in pro.algorithms
но как?) доступа к бит операциям нет
источник

DP

Defragmented Panda in pro.algorithms
есть floor(перед точкой), fraction(после точки), module
источник

NE

Nyc Enas in pro.algorithms
э, но почему бы не написть это не в шейдере, а в яваскрипт?
источник

NE

Nyc Enas in pro.algorithms
все равно ограничив мантиссу ты получишь не тоже самое что результат тру вычисления на гпу
источник

NE

Nyc Enas in pro.algorithms
хотя, нет
источник

NE

Nyc Enas in pro.algorithms
в яваскрипте нельзя же флоаты побитово кастануть к интам
источник

NE

Nyc Enas in pro.algorithms
они тупо преобразуются с округлением
источник

DP

Defragmented Panda in pro.algorithms
floor(fract(x)*32.0)/32.0

можно ожидать что это сработает как 5 бит float?
источник

NE

Nyc Enas in pro.algorithms
так, я посчитал. Для half получается примерно 90 уникальных значений
источник

DP

Defragmented Panda in pro.algorithms
это сколько бит мантисы? (half)
источник

NE

Nyc Enas in pro.algorithms
10
источник

DP

Defragmented Panda in pro.algorithms
90 из 1024. эх. ну так себе.
источник

NE

Nyc Enas in pro.algorithms
да, совсем не то что надо
источник

NE

Nyc Enas in pro.algorithms
а нельзя их захардкодить? всего тысяча же
источник

DP

Defragmented Panda in pro.algorithms
фу пошляк
источник

DP

Defragmented Panda in pro.algorithms
мне интересно разобраться как работают флоаты )
источник

NE

Nyc Enas in pro.algorithms
хм, уменьшил точность константы с которой складываю prev до half, теперь проходит весь цикл из 1024 значений
источник