хорошо, в тех файлах, с которыми я работаю, все дробные числа представлены в виде 4-х байтовых значений. (точность, которая достигается 8-ми байтами просто не нужна). получается, что работать напрямую с таким форматом нельзя.
примерно год назад я поднимал тему про Hex2Real конвертер, вот схемка с тех времен (в формуле вроде бы Galkov помог):
code_9821.txt
она делает именно то, что нужно. однако за счет кучи элементов - медленно.