Ну что ж, совсем другое дело. Теперь буфер не опустошается. Работает устойчиво на всех скоростях до 192к. Надо будет 384к попробовать, SDR_Console поддерживает.
Насчет плавания тона это я лоханулся, было включено SyncAM вот оно и подстраивалось в поиске несущей.
Так что осталась только одна проблема. Сигналы зеркалят. Я записал видео, чтобы не обьяснять на пальцах.
Похоже, что сигналы с левого канала как-то попадают в правый или наоборот. Обратите внимание, что отражения более слабые по уровню.
https://docs.google.com/file/d/0BzuiSb2tJSbzVFZfUl9KWHZHSkE/edit?usp=sharing