с#
нет. на других платформах это правильно работает (jvm и linuxx64)
ужас)
Size: a a a
2020 December 08
IP
разве это не проблема чисел с плавающей точкой ?
12.12345 - это 12.12345. точности флоата на 7 разрядов хватает, просто DataView.getFloat32 какой-то идиотский
с#
нет. на других платформах это правильно работает (jvm и linuxx64)
вообще наверное это косяк котлина, что он по-разному на разных платформах работает. понятное дело, что заново это писать - не вариант, но всё таки котлин должен стараться быть одинаковым.
VS
12.12345 - это 12.12345. точности флоата на 7 разрядов хватает, просто DataView.getFloat32 какой-то идиотский
Код в студию
IP
вообще наверное это косяк котлина, что он по-разному на разных платформах работает. понятное дело, что заново это писать - не вариант, но всё таки котлин должен стараться быть одинаковым.
это не косяк котлина, ни разу. это косяк DataView
IP
Код в студию
код чего?
VS
код того, как воспроизводить багу
VS
Либо на JS, либо в play.kotlin.org
IP
код того, как воспроизводить багу
IP
даже если это не баг, даже если это специально задумано добавлять в флоат рандомные разряды, то это идиотизм
VS
Предлагаю сначала ознакомиться с https://ru.wikipedia.org/wiki/IEEE_754-2008, и только потом делать выводы
IP
Предлагаю сначала ознакомиться с https://ru.wikipedia.org/wiki/IEEE_754-2008, и только потом делать выводы
окей, то есть флоату не хватает точности, чтобы держать 7 разрядов без потери точности?
VS
Число 12.12345 невозможно представить в виде float32
Вот пример: https://www.exploringbinary.com/floating-point-converter/
Самое близкое представление в float32 это 12.12345027923583984375
Вот пример: https://www.exploringbinary.com/floating-point-converter/
Самое близкое представление в float32 это 12.12345027923583984375
IP
Число 12.12345 невозможно представить в виде float32
Вот пример: https://www.exploringbinary.com/floating-point-converter/
Самое близкое представление в float32 это 12.12345027923583984375
Вот пример: https://www.exploringbinary.com/floating-point-converter/
Самое близкое представление в float32 это 12.12345027923583984375
а, ясно
IP
Число 12.12345 невозможно представить в виде float32
Вот пример: https://www.exploringbinary.com/floating-point-converter/
Самое близкое представление в float32 это 12.12345027923583984375
Вот пример: https://www.exploringbinary.com/floating-point-converter/
Самое близкое представление в float32 это 12.12345027923583984375
но почему тогда на других платформах сделали округление, которое ожидается от такого класса, а DataView выдает точное битовое представление?
VS
Про какое округление-то речь? Нет тут округления нигде.
2020 December 09
IP
Про какое округление-то речь? Нет тут округления нигде.
а что делать тогда?
IP
Про какое округление-то речь? Нет тут округления нигде.
у меня пока что единственная идея - это через WASM написать нормальное конвертирование флоата в интовые биты и обратно
IP
Число 12.12345 невозможно представить в виде float32
Вот пример: https://www.exploringbinary.com/floating-point-converter/
Самое близкое представление в float32 это 12.12345027923583984375
Вот пример: https://www.exploringbinary.com/floating-point-converter/
Самое близкое представление в float32 это 12.12345027923583984375
ну вот в джаве 12.12345 перегоняются в интовые биты и наоборот вот таким вот образом
IP
Число 12.12345 невозможно представить в виде float32
Вот пример: https://www.exploringbinary.com/floating-point-converter/
Самое близкое представление в float32 это 12.12345027923583984375
Вот пример: https://www.exploringbinary.com/floating-point-converter/
Самое близкое представление в float32 это 12.12345027923583984375
