Вот схема, что здесь не так. Нужно произвести вычитание 15.66 - 15.55 в результате получается это 0.109999999999999, хотя я думаю должно быть это 0.11 То же самое и с Math.
code_22663.txt
Этот топик читают: Гость
Ответов: 1536
Рейтинг: 176
|
|||
карма: 1 |
| ||
файлы: 1 | code_22663.txt [601B] [175] |
Ответов: 1821
Рейтинг: 168
|
|||
подтверждается. у меня тоже самое, что и у ser_davkin.
|
|||
карма: 5 |
|
Ответов: 4641
Рейтинг: 334
|
|||
карма: 1 |
| ||
файлы: 1 | code_22664.txt [765B] [158] |
Ответов: 1536
Рейтинг: 176
|
|||
Ravilr, я этим костылём уже пользуюсь, спасибо.
|
|||
карма: 1 |
|
Ответов: 8933
Рейтинг: 824
|
|||
ser_davkin, sаmakacd, ребята, не забывайте, что арифметика у компьютера не десятичная, а двоичная, и большинство точных десятичных дробей в компьютерной голове представляются бесконечной двоичной дробью, а т. к. разрядность числа ограничена, младшие единички округляются, что и приводит к неточностям
![]() ![]() |
|||
карма: 19 |
|
5