В итоге запустил я все это дело на 192к, там проблема была в настройках виртуального аудиокабеля.
Про BASS не знал что он до 100к, но вроде у меня работает на 192к, по крайней мере не ругается. Я ещё проверю ширину точнее.

Так что осталось у нас - зеркальный канал. Я тщательно проверил - в QUISK никаких зеркалок нет. С железом все в порядке.
Так же заметил, что основной канал принимается заметно слабее чем в QUISK, что очевидно, ведь часть сэмплов уходит в зеркальный канал.
Надо искать ошибку.