А запись с такими значениями атрибутов вообще валидна? Если да - почему это не отражено в спеке? Если нет - что она делает в базе?

По отдельности все валидно, проблема (если я точно понял) возникает при редком сочетании факторов (размер файла, число записей и их порядок и т.д.).

При появлении претензий курим спеку. Если в спеке есть - правит исполнитель за свой счёт. Если нет - делаем по T&M или пишем и оцениваем ЧТЗ.

Ну вот пример с квадратным корнем.
Спека-то нормальная, но может трактоваться неоднозначно разумным образом. В описании алгоритма извлечения корня тип данных вообще не указан.

В алгоритме - да, но при написании спеки указывают типы - например, double или __int32. Любое значение, влезающее в тип, должно отрабатываться.

А в спеке написано "целые числа", Она не привязана к архитектуре.

Больше похоже не на спеку, а на главу из учебника :). Но тогда возвращаемся к BA, который должен был сформулировать задачи разработчикам на основе спеки.

Это некий отраслевой стандарт, возможно его написали люди, последним языком программирования которых был Кобол 😊

Получилось так, что исполнитель трактовал "разумным образом" некоторую неявно подразумевавшуюся вещь, а потом выяснялось, что этот трактование больше не верно.
Поэтому я и не считаю это багфиксом, это уточнение требований.

Коллега столкнулся и проблемой. Года полтора-два назад они зааутсорсили некую функцию за Х денег. Важным аспектом договоренности был факт, что тестирование и приемка делается заказчиком.
За это время объемы данных подросли и в функции вскрылась проблема. Не критичная, но неприятная.
Исполнитель проблему исправил, но выкатил счет почти 45% от Х. Коллега платить готов, но в пару раз меньше, мотивируя это тем, что это исправление бага. Если подходить совсем формально - это так и есть.
Мое мнение - заплатить в полном объеме. Соображения такие:
1. раз их QA проблему пропустил,  мы имеем дело с изменением требований (обработка большего объема данных)
2. объективно работа была очень затратная, то есть нельзя исключать, что исполнитель или сработал в 0 или даже с небольшим убытком.

Что думаете?