Просто при открытии файла запомнить блок адресов ОЗУ отведённых программе и следить за счётчиком команд процессора, при совпадении адреса с блоком перенаправлять в рендомный адрес