Size: a a a

2020 February 20

☣️ⒿⓊⓇⓎ☣️ in MediaTube HCF
;)
источник

k

krutmaster in MediaTube HCF
сто пудово деньги как дата
со своим типом
источник

☣️ⒿⓊⓇⓎ☣️ in MediaTube HCF
mr.slavik
хуевый пример
float для денег
мда мда
Нетолько
источник

k

krutmaster in MediaTube HCF
работает!
источник

m

mr.slavik in MediaTube HCF
А по поводу округления, Степвн, надо понимать что тебе надо, вещественные числа в питоне отдельная песня
источник

m

mr.slavik in MediaTube HCF
это вообще отдельная песня
источник

m

mr.slavik in MediaTube HCF
которую многие не понимают почем зря
источник

m

mr.slavik in MediaTube HCF
почему 1.4 % 1 выдает результат 0.399999999999? Как нормально получить другую часть?
источник

m

mr.slavik in MediaTube HCF
плавающая точка
источник

m

mr.slavik in MediaTube HCF
Floating-point arithmetic https://g.co/kgs/MWK2fa
источник

m

mr.slavik in MediaTube HCF
лучше все таки разобраться с тем что такое плавающая точка
я за это чуть не уволил разработчика однажды
источник

m

mr.slavik in MediaTube HCF
источник

m

mr.slavik in MediaTube HCF
если нужно 1.4 % 1 в фиксированной точке сделать - (14 % 10) / 10
источник

m

mr.slavik in MediaTube HCF
как вариант
источник

m

mr.slavik in MediaTube HCF
источник

m

mr.slavik in MediaTube HCF
если взять 8 байт лонг - макс значение 18446744073709551615 - 64 бита, в double у тебя значащих бит 52 то есть макс значение 524503599627370496.
если у тебя динамический диапазон твоей величины небольшой- например для частоты это будет условно 40000 - тогда ты можешь домножить на 18446744073709551615/40000 все значения растянув весь диапазон значений на 64 бита и в операциях использовать все доступные биты, а в double только на 52.
пример : 40000/32768 = 461 168 601 842 738 * 40000/(32768 * 461 168 601 842 738) , для внутренних операций делить обратно на множитель не требуется - приводить к единицам измерения нужно только при индикации, так что у тебя делится 461 168 601 842 738 * 40000/32768 - это деление будет точнее чем 13 112 589 990 684 * 40000/32768 для double. (edited)
но если ты не растягиваешь до макс значения double- у тебя еще меньше будет точность
поправил числа-мог запутать чуток

условно говоря операции делаешь не в герцах а в наногерцах
если тип позволяет
на пальцах вот ему расписал в слаке)
источник

m

mr.slavik in MediaTube HCF
короче - если вам важно с точностью до 5 знака поделить, например 7 на 3 - домножьте 7 на 100_000
источник

m

mr.slavik in MediaTube HCF
источник

m

mr.slavik in MediaTube HCF
источник

m

mr.slavik in MediaTube HCF
получаете в фиксированной точке целую и дробную часть
источник