немного подзабыл, в каком формате работает элемент DataToFile применительно к числам с плавающей запятой.
имеется файл со значениями, читаю, напрмер, 68 66 14 42, что должно быть равно 37.1, а схемка дает нечто мизерное с кучей нулей:
code_9819.txt
Этот топик читают: Гость
|
Ответов: 499
Рейтинг: 1
|
|||
| карма: 0 |
| ||
| файлы: 1 | code_9819.txt [351B] [263] |
|
Ответов: 5227
Рейтинг: 587
|
|||
|
HikeR, что то я сомневаюсь что 4 байта для Real
напрмер, 68 66 14 42, что должно быть равно 37.1 по этому поводу большие сомнения может всётаки ты сохранил значения неверно |
|||
| карма: 4 |
|
|
Ответов: 499
Рейтинг: 1
|
|||
|
я привел в том виде, в котором оно в файле. в более привычном порядок групп разрядов меняется.
|
|||
| карма: 0 |
|
|
Ответов: 5227
Рейтинг: 587
|
|||
|
Хорошо. вот проверочная схема
|
|||
| карма: 4 |
|
|
Ответов: 499
Рейтинг: 1
|
|||
|
хорошо, в тех файлах, с которыми я работаю, все дробные числа представлены в виде 4-х байтовых значений. (точность, которая достигается 8-ми байтами просто не нужна). получается, что работать напрямую с таким форматом нельзя.
примерно год назад я поднимал тему про Hex2Real конвертер, вот схемка с тех времен (в формуле вроде бы Galkov помог): code_9821.txt она делает именно то, что нужно. однако за счет кучи элементов - медленно. |
|||
| карма: 0 |
| ||
| файлы: 1 | code_9821.txt [3.5KB] [236] |
|
Ответов: 9906
Рейтинг: 351
|
|||
| карма: 9 |
|
|
Ответов: 499
Рейтинг: 1
|
|||
|
спасибо. в общий дистриб уже пора ;)
------------ Дoбавленo: (кстати, doPut и doGet поменяны местами по сравнению с встроенным.) |
|||
| карма: 0 |
|
7



Поиск
Друзья
Администрация