Имеются в виду оптимизации в компиляторах в общем или в каких-то конкретных?
Если в общем, то можно так считать в широком смысле, но без квантора всеобщности: общее требование к оптимизациям (хотя некоторые могут отходить) - чтобы не изменялось наблюдаемое поведение программы. Но, например, оптимизации в gcc по опции -ffast-math ускоряют плавучку ценой нарушения этого требования.