DS
но я с ходу не скажу не слетит ли там точность
Size: a a a
2021 March 29
DS
но я с ходу не скажу не слетит ли там точность
слетит
AD
tonumber ?
Пробовал, не помогает:
local res = {id = 1, f1 = 5.5, f2 = tonumber(decimal.new(1.978))}
Возвращает
{"id":1,"f1":5.5}
так как tonumber(decimal.new(1.978)) возвращает nil
local res = {id = 1, f1 = 5.5, f2 = tonumber(decimal.new(1.978))}
Возвращает
{"id":1,"f1":5.5}
так как tonumber(decimal.new(1.978)) возвращает nil
MF
Пробовал, не помогает:
local res = {id = 1, f1 = 5.5, f2 = tonumber(decimal.new(1.978))}
Возвращает
{"id":1,"f1":5.5}
так как tonumber(decimal.new(1.978)) возвращает nil
local res = {id = 1, f1 = 5.5, f2 = tonumber(decimal.new(1.978))}
Возвращает
{"id":1,"f1":5.5}
так как tonumber(decimal.new(1.978)) возвращает nil
внезапно, но это так
DS
там tonumber(tostring())
ОБ
К сожалению, единственный вариант tonumber(tostring())
DS
не спрашивайте
DS
К сожалению, единственный вариант tonumber(tostring())
tarantool> tonumber(tostring(require('decimal').new('1.99999999999999999999999')))
---
- 2
---
- 2
DS
но если там несколько знаков после запятой заведомо - то пойдет
AD
но если там несколько знаков после запятой заведомо - то пойдет
т.е. если у меня там денежки допустим до 5 го знака после запятой все будет хорошо?
ОБ
MF
т.е. если у меня там денежки допустим до 5 го знака после запятой все будет хорошо?
передавайте денежки строкой?
AD
понял, спасибо
AD
передавайте денежки строкой?
Скажем так, хочется поддержать формат который был в старой реализации.
MA
передавайте денежки строкой?
деньги лучше передавать целыми. в минимальных единицах, копейках или "милликопейках" )
AK
деньги лучше передавать целыми. в минимальных единицах, копейках или "милликопейках" )
Тогда правила округления нужны, и они будут нетривиальными
AL
имхо правила округления целых чисел тривиальны по определению
int round(int i) { return i; }MA
:))
NK
имхо правила округления целых чисел тривиальны по определению
int round(int i) { return i; }ты слышал про банковское округление? =)
NK
там к ближайшему четному