немного подзабыл, в каком формате работает элемент DataToFile применительно к числам с плавающей запятой.
имеется файл со значениями, читаю, напрмер, 68 66 14 42, что должно быть равно 37.1, а схемка дает нечто мизерное с кучей нулей:
code_9819.txt
Этот топик читают: Гость
Ответов: 499
Рейтинг: 1
|
|||
карма: 0 |
| ||
файлы: 1 | code_9819.txt [351B] [225] |
Ответов: 5227
Рейтинг: 587
|
|||
HikeR, что то я сомневаюсь что 4 байта для Real
![]() напрмер, 68 66 14 42, что должно быть равно 37.1 по этому поводу большие сомнения ![]() может всётаки ты сохранил значения неверно ![]() |
|||
карма: 4 |
|
Ответов: 499
Рейтинг: 1
|
|||
я привел в том виде, в котором оно в файле. в более привычном порядок групп разрядов меняется.
|
|||
карма: 0 |
|
Ответов: 5227
Рейтинг: 587
|
|||
Хорошо. вот проверочная схема
|
|||
карма: 4 |
|
Ответов: 499
Рейтинг: 1
|
|||
хорошо, в тех файлах, с которыми я работаю, все дробные числа представлены в виде 4-х байтовых значений. (точность, которая достигается 8-ми байтами просто не нужна). получается, что работать напрямую с таким форматом нельзя.
примерно год назад я поднимал тему про Hex2Real конвертер, вот схемка с тех времен (в формуле вроде бы Galkov помог): code_9821.txt она делает именно то, что нужно. однако за счет кучи элементов - медленно. |
|||
карма: 0 |
| ||
файлы: 1 | code_9821.txt [3.5KB] [204] |
Ответов: 9906
Рейтинг: 351
|
|||
карма: 9 |
|
Ответов: 499
Рейтинг: 1
|
|||
спасибо. в общий дистриб уже пора ;)
------------ Дoбавленo: (кстати, doPut и doGet поменяны местами по сравнению с встроенным.) |
|||
карма: 0 |
|
7