HiAsm

Ответов: 207

Рейтинг: 14

#1: 2021-07-09 11:32:56 ЛС | профиль | цитата

Netspirit писал(а):

Где-то есть потеря точности при вычислениях

Не знаю почему, но в прошлой версии я ставил точность 21 для FPC64 и все работало. В нынешней реализации тоже помогло.

  Precision = {$ifdef FPC64}21{$else}23{$endif};
  DefPE = {$ifdef FPC64}17{$else}18{$endif};

Проверил на 50000 разных значений. Результат верный.

карма: 2

Редактировалось 1 раз(а), последний 2021-07-09 11:35:16