Вверх ↑
Ответов: 207
Рейтинг: 14
#1: 2021-07-09 11:32:56 ЛС | профиль | цитата
Netspirit писал(а):
Где-то есть потеря точности при вычислениях

Не знаю почему, но в прошлой версии я ставил точность 21 для FPC64 и все работало. В нынешней реализации тоже помогло.
  Precision = {$ifdef FPC64}21{$else}23{$endif};
DefPE = {$ifdef FPC64}17{$else}18{$endif};
Проверил на 50000 разных значений. Результат верный.
карма: 2

0
Редактировалось 1 раз(а), последний 2021-07-09 11:35:16