Раз есть исходники и нужно просто что-то поправить в той программе - то лучше их же и редактировать и компилировать.
Функционал подобных программ основан на библиотеке librtlsdr.dll. В HiAsm можно писать компоненты, вызывая функции этой библиотеки.

Документация по функциях: https://github.com/steve-m/librtlsdr/blob/master/include/rtl-sdr.h
Сама библиотека: https://ftp.osmocom.org/binaries/windows/rtl-sdr/

В архиве библиотеки есть консольные утилиты для минимальной работы и тестов. В зависимости от их функционала можно обойтись без программирования, используя их в HiAsm через консоль.