K
Можешь привести пример?
float(color[c] )/ divider_ + adder_при сборке тестов -54.71368408203125 при сборке с pybind11 -54.713726043701171875
Size: a a a
2020 June 02
AB
A
float(color[c] )/ divider_ + adder_при сборке тестов -54.71368408203125 при сборке с pybind11 -54.713726043701171875
у тебя нет такой точности
-54.71368408203125A
точности такой нет, у флоата 8-9 цифр, но результат все равно не совпадает... хм
A
float(color[c] )/ divider_ + adder_при сборке тестов -54.71368408203125 при сборке с pybind11 -54.713726043701171875
попробуй проверить в своих тестах с дабл
выглядит как будто реально pybind11 дергает дабл 🤷♂️
выглядит как будто реально pybind11 дергает дабл 🤷♂️
PK
float(color[c] )/ divider_ + adder_при сборке тестов -54.71368408203125 при сборке с pybind11 -54.713726043701171875
и ты для тестов с флоатами epsilon не использовал никогда? т.е. вот такой тест был чтоли?
и проверь флаги компиляции, мб там где-то fast_math включен был?
вообще 8-9 знаков после запятой — это оптимистично как-то, я бы проверил сколько на самом деле
auto const result = float(color[c] )/ divider_ + adder_;
auto const reference = -54.71368408203125f;
ASSERT_EQ(result, reference);
в тестах с флоатами всегда надо с эпсилоном сравнивать числа, чтобы не было таких результатови проверь флаги компиляции, мб там где-то fast_math включен был?
вообще 8-9 знаков после запятой — это оптимистично как-то, я бы проверил сколько на самом деле
PK
хотелось бы настоящих сварщиков услышать, но мой мутный хрустальный шар только такое выдает :(
AB
и ты для тестов с флоатами epsilon не использовал никогда? т.е. вот такой тест был чтоли?
и проверь флаги компиляции, мб там где-то fast_math включен был?
вообще 8-9 знаков после запятой — это оптимистично как-то, я бы проверил сколько на самом деле
auto const result = float(color[c] )/ divider_ + adder_;
auto const reference = -54.71368408203125f;
ASSERT_EQ(result, reference);
в тестах с флоатами всегда надо с эпсилоном сравнивать числа, чтобы не было таких результатови проверь флаги компиляции, мб там где-то fast_math включен был?
вообще 8-9 знаков после запятой — это оптимистично как-то, я бы проверил сколько на самом деле
поводу количества чисел это мой касяк std::cout.precision(10); а вот fast_math не используется
PK
11 gcc, linux, 20 плюсы, код
выдает
std::cout << std::numeric_limits<float>::digits10;выдает
6, так что про оптимистичность 8-9 знаков я был прав в этом сценарииv
а как узнать текушю точность ?
std::numeric_limits::digitsAB
это поправлю а что делать с точностью
v
это поправлю а что делать с точностью
Какой точностью? Я только что показал как пользоваться буст длиннофлотами.
PK
это поправлю а что делать с точностью
если в тестах примерно вот такой код, то так не надо делать :)
https://stackoverflow.com/a/2909445/7561577 (на 5000 итераций ошибка аж до 0.05 докатилась)
используй руками
https://stackoverflow.com/a/2909445/7561577 (на 5000 итераций ошибка аж до 0.05 докатилась)
используй руками
std::numeric_limits<float>::epsilon() для сравнений результатов, если тестовый фреймворк не имеет чего-то вроде ALMOST_EQUAL или EXPECT_FLOAT_EQ, EXPECT_NEAR или аналогичной макросниAB
запустил тесты из модуля так что бы условия были равными округление ведет себя подругому :(
IA
запустил тесты из модуля так что бы условия были равными округление ведет себя подругому :(
Проверь текущие флаги через _controlfp или ее аналог https://docs.microsoft.com/ru-ru/cpp/c-runtime-library/reference/control87-controlfp-control87-2
m
если в тестах примерно вот такой код, то так не надо делать :)
https://stackoverflow.com/a/2909445/7561577 (на 5000 итераций ошибка аж до 0.05 докатилась)
используй руками
https://stackoverflow.com/a/2909445/7561577 (на 5000 итераций ошибка аж до 0.05 докатилась)
используй руками
std::numeric_limits<float>::epsilon() для сравнений результатов, если тестовый фреймворк не имеет чего-то вроде ALMOST_EQUAL или EXPECT_FLOAT_EQ, EXPECT_NEAR или аналогичной макросним...
epsilon() обычно нужно умножать на что-то. Честно оценивать точность результата после нетривиального преобразования довольно муторно.PK
м...
epsilon() обычно нужно умножать на что-то. Честно оценивать точность результата после нетривиального преобразования довольно муторно.тут надо на тест сам смотреть, да, я к этому косвенно и призывал; но совсем без эпсилона и пытаться с ним — две большие разницы, — стоит вникнуть нафиг всё это нужно и переписать плохие тесты, если уж сборка настолько отличается
PK
умные дядечки с cppcon что-то про либы, которые реализуют safe numerics, говорили, — я бы сначала в эту сторону смотрел