Вверх ↑
Этот топик читают: Гость
Ответов: 1536
Рейтинг: 176
#1: 2011-02-23 23:28:54 ЛС | профиль | цитата
Вот схема, что здесь не так. Нужно произвести вычитание 15.66 - 15.55 в результате получается это 0.109999999999999, хотя я думаю должно быть это 0.11 То же самое и с Math.
code_22663.txt
карма: 1
Не так страшна ошибка, как опасность её не заметить.

0
файлы: 1code_22663.txt [601B] [175]
Ответов: 1821
Рейтинг: 168
#2: 2011-02-23 23:31:52 ЛС | профиль | цитата
подтверждается. у меня тоже самое, что и у ser_davkin.
карма: 5

0
Ответов: 4641
Рейтинг: 334
#3: 2011-02-23 23:53:56 ЛС | профиль | цитата
code_22664.txt
карма: 1
Время верстки: %cr_time% Текущее время: %time%
0
файлы: 1code_22664.txt [765B] [158]
Ответов: 1536
Рейтинг: 176
#4: 2011-02-24 00:02:58 ЛС | профиль | цитата
Ravilr, я этим костылём уже пользуюсь, спасибо.
карма: 1
Не так страшна ошибка, как опасность её не заметить.

0
Ответов: 8933
Рейтинг: 824
#5: 2011-02-24 09:03:04 ЛС | профиль | цитата
ser_davkin, sаmakacd, ребята, не забывайте, что арифметика у компьютера не десятичная, а двоичная, и большинство точных десятичных дробей в компьютерной голове представляются бесконечной двоичной дробью, а т. к. разрядность числа ограничена, младшие единички округляются, что и приводит к неточностям это надо понимать и всегда иметь ввиду, тогда и не будут возникать подобные проблемы
карма: 19

0
5
Сообщение
...
Прикрепленные файлы
(файлы не залиты)