unalex, как заметил Dilma погрешность - погрешность представления десятичных дробей в машинной двоичной системе, например: числа 0.625, 0.5, 0.25 т. е. различные суммы 1/2^n представляются точно, а все остальные, например 0.1 - бесконечной двоичной дробью, которую надо округлять с возникающей при этом погрешностью.
Ответов: 8961
Рейтинг: 824
|
|||
карма: 19 |
|