вероятно достаточно вызвать BASS_PluginLoad() для подгрузки xmp-aac.dll к звуковой системе BASS. Может быть все и заработает

во всяком случае в справке указано, что плагины добавляют поддержку новых форматов для BASS_StreamCreateFile, BASS_StreamCreateURL, and BASS_StreamCreateFileUser