m
и тебе придется его сдвигать
теряя биты
пока оно не станет меньше 1
теряя биты
пока оно не станет меньше 1
Size: a a a
2020 May 13
m
таким образом 1ка эта просто потеряется вместе с округлением вынужденным
k
То есть это число получилось больше 1?
m
10 в 23 на самом деле слишком большое
m
То есть это число получилось больше 1?
5 в 46 степени?
m
ну да - оно больше 1
k
И тогда нормализация просто в другую сторону идёт
Я думал она однобоко работает
А она и туда, и сюда
Это получается делить на 2 теперь, пока не станет меньше 1
Я думал она однобоко работает
А она и туда, и сюда
Это получается делить на 2 теперь, пока не станет меньше 1
m
И тогда нормализация просто в другую сторону идёт
Я думал она однобоко работает
А она и туда, и сюда
Это получается делить на 2 теперь, пока не станет меньше 1
Я думал она однобоко работает
А она и туда, и сюда
Это получается делить на 2 теперь, пока не станет меньше 1
так она и работает так
SK
В яве помню .было несколько типов чисел с плавающей запятой с разным кол-вом Битов. Float 32 бита, double 64 и что то еще там
SK
Чем больше Битов на число тем точнее
k
Ктса да, в питоне же тоже флоат и дабл
У них в этом отличие, размер переменной?
У них в этом отличие, размер переменной?
SK
k
То есть если я не хочу лохануться при счёте, то лучше double применятт
Но с ним один фиг лоханусь
Но с ним один фиг лоханусь
SK
ну все зависит от того что считать
k
А я при желании не могу фиксированную точку заюзать
SK
для финансов используется только фиксированная точка. или считают в копейках
и так далее
все от предметной области зависит
для произвольной математики можно и с плавающей точкой. но надо понимать, что точность страдает
и так далее
все от предметной области зависит
для произвольной математики можно и с плавающей точкой. но надо понимать, что точность страдает
SK
в 3д графике плавающей точкой пользуются. но не везде. если нет GPU и нужна высокая скорость, то тоже различные ухищрения применяют
m
А я при желании не могу фиксированную точку заюзать
m
у плавающей точки больше абсолютная погрешность - так как под мантиссу отводится меньше бит чем в фиксированной
m
но зато у нее больше диапазон и относительная погрешность меньше изменяется от самого маленького до самого большого числа