Вверх ↑
Ответов: 8978
Рейтинг: 825
#1: 2009-10-19 22:03:38 ЛС | профиль | цитата
Evgen818, нет здесь ошибки, а есть погрешность при округлении для конечного количества вычисляемых разрядов числа. Более того, можно получить эту погрешность в безобидной, с точки зрения десятичной арифметики, ситуации, например число 0,3 в двоичной системе представлено бесконечной периодической дробью: 0,010101....., а в машине арифметическое устройство конечно, отсюда и погрешность
карма: 19

0