Ну и зачем тогда выложил поломанную схему и сказал что "не могу EXE открыть"?
В Memo по умолчанию буфер 32 Кб. Данные в HEX-представлении занимают в два раза больше исходных.
Не выводи в Memo - не будет виснуть.

Чтение/запись данных в файл происходит с помощью компонента DataToFileEx.