Вверх ↑
Ответов: 1297
Рейтинг: 47
#1: 2015-12-16 13:16:52 ЛС | профиль | цитата
Я имел ввиду, с полем для указания количества разрядов округления конечно. Или тогда встроить в справку этот пример)
------------ Дoбавленo в 12.09:
Спасибо, Неско, все заработало. Буду теперь аккуратнее с дробными числами.
------------ Дoбавленo в 12.12:
Писал модуль для автоматической проверки обновлений программы на сервере, где перебирал номера версий и подставлял в имя файла, если есть такого размера файл на сервере с максимальной версией, значит обновление есть. А то раньше закачивал спец. текстовый файлик с версией и проверял и правил его.
------------ Дoбавленo в 12.36:
Вот, тут схожая проблема описана и ответ на нее.

http://www.sql.ru/forum/423601/drobnye-chisla-16-16-ne-vypolnyaetsya

i := i + 0.1;
- по моему, один из первых примеров особеностей двоичного представления, это то, что числа вида 0.1 в двоичном виде представляют из себя бесконечную периодичную дробь. то есть, не могут быть представлены точно

------------ Дoбавленo в 12.41:
Значит все дело именно в "опасном" числе 0.1. Потому что если его заменить на 0.2 то все работает без округления. HiAsm, теперь я готов с тобой лететь в черные дыры Космоса!)

Add(MainForm,2953706,21,105)
{
@Hint=#45:http://forum.hiasm.net/forum.html?q=3&t=65565|
}
Add(Math,10257649,476,154)
{
Op2=0.2
Default=1
link(onResult,14492764:doCompare,[])
link(Op1,12277268:Var1,[(482,142)(470,142)(470,198)])
}
Add(Timer,3635841,357,154)
{
Interval=500
link(onTimer,10257649:doOperation,[])
}
Add(If_else,14492764,581,154)
{
Type=2
link(onTrue,9748858:doString,[])
link(Op2,2700034:Var3,[(594,135)])
}
Add(FormatStr,9748858,672,154)
{
Mask="%1 < %2"
link(onFString,5250440:doMessage,[])
link(Str1,2700034:Var2,[(678,143)(531,143)])
link(Str2,12277268:Var3,[(685,142)(475,142)])
}
Add(Message,5250440,784,154)
{
}
Add(Memory,1566946,252,147)
{
@Hint=#15:Current Version|
Default=Real(1.4)
}
Add(Math,4019485,525,287)
{
OpType=35
Op2=0.01
}
Add(GetDataEx,2700034,525,130)
{
Angle=3
link(Data,1566946:Value,[(426,135)(426,191)(258,191)])
}
Add(GetDataEx,12277268,469,193)
{
Angle=1
link(Data,10257649:Result,[(482,198)])
}


карма: 3
Hiasm + Flowstone + CopperCube + GoDot + JS
0