unalex, как заметил Dilma погрешность - погрешность представления десятичных дробей в машинной двоичной системе, например: числа 0.625, 0.5, 0.25 т. е. различные суммы 1/2^n представляются точно, а все остальные, например 0.1 - бесконечной двоичной дробью, которую надо округлять с возникающей при этом погрешностью.
|
Ответов: 8975
Рейтинг: 825
|
|||
| карма: 19 |
|



Поиск
Друзья
Администрация