Вверх ↑
Ответов: 8961
Рейтинг: 824
#1: 2009-03-31 13:53:06 ЛС | профиль | цитата
unalex, как заметил Dilma погрешность - погрешность представления десятичных дробей в машинной двоичной системе, например: числа 0.625, 0.5, 0.25 т. е. различные суммы 1/2^n представляются точно, а все остальные, например 0.1 - бесконечной двоичной дробью, которую надо округлять с возникающей при этом погрешностью.
карма: 19

0