Вверх ↑
Ответов: 9906
Рейтинг: 351
#1: 2020-01-26 18:57:02 ЛС | профиль | цитата
Леонид писал(а):
недавно приспичило формулу считать, а в ней разница в цифрах в двадцатом знаке

Глупости все это, как мне кажется.
В том смысле, что тот, кто вывел тебя на такие расчеты - в математике (ее вычислительных методах) мало чего понимает.
По жизни - и 7 знаков хватает (обыкновенный 32-битный float), если с цифрами грамотно обращаться.
((да и у чисел pi и e -- больше 15 знаков я и не знаю))

А чисто теоретических вопросов можно напридумывать выше крыши. Никакой точности не хватит.
Вот, скажем, сколько знаков в (100!), и хочется последнюю цифру увидеть.....
А мне бы, для первых 10 знаков -- и асимптотической формулы бы хвалило.

Леонид писал(а):
Замучился копипастить в Window-ский калькулятор и обратно

А вот я не убежден, что ты правильно посчитал. Постоянное округление при переводе Extended (native тип данных сопроцессора) в Real (а потом обратно) как бы аннулируют ошибки вычислений.
Знаешь же чего получится при 10/3*3 - в одном и другом случае.

Лучше считай производные "приспиченной" формулы по входным параметрам, и суммируй произведения этих производных на изменения параметров.
И не выделывайся: результат будет в 100 надежней Window-ского калькулятора.
карма: 9

0
Редактировалось 3 раз(а), последний 2020-01-26 19:02:09