Проблема не в неправильных вычислениях, а в неправильном выводе результатов - в x64 неправильно работает функция KOL.Extended2Str.
code_32846.txt
------------ Дoбавленo в 21.30:
Переписал Extended2Str на аналогичную из FPC. Поправил MathParse.

Распаковать архив с заменой в папку HiAsm.
После распаковки выполнить HiAsmcompilerFPC2src\_make_x64.bat