Вот схема, что здесь не так. Нужно произвести вычитание 15.66 - 15.55 в результате получается это 0.109999999999999, хотя я думаю должно быть это 0.11 То же самое и с Math.
code_22663.txt
Этот топик читают: Гость
|
Ответов: 1536
Рейтинг: 176
|
|||
| карма: 1 |
| ||
| файлы: 1 | code_22663.txt [601B] [203] |
|
Ответов: 1821
Рейтинг: 168
|
|||
|
подтверждается. у меня тоже самое, что и у ser_davkin.
|
|||
| карма: 5 |
|
|
Ответов: 4641
Рейтинг: 334
|
|||
| карма: 1 |
| ||
| файлы: 1 | code_22664.txt [765B] [187] |
|
Ответов: 1536
Рейтинг: 176
|
|||
|
Ravilr, я этим костылём уже пользуюсь, спасибо.
|
|||
| карма: 1 |
|
|
Ответов: 8976
Рейтинг: 825
|
|||
|
ser_davkin, sаmakacd, ребята, не забывайте, что арифметика у компьютера не десятичная, а двоичная, и большинство точных десятичных дробей в компьютерной голове представляются бесконечной двоичной дробью, а т. к. разрядность числа ограничена, младшие единички округляются, что и приводит к неточностям
|
|||
| карма: 19 |
|
5



Поиск
Друзья
Администрация