В общем, это особенность компилятора. В 32-битных приложениях промежуточные результаты вычислений хранятся в типе Extended (10 байт), в конце преобразуются к требуемому (например, Double). В 64-битных приложениях промежуточные результаты хранятся в Double (8 байт), что приводит к меньшей точности результата.