Не совсем правильный у Вас подход.
Для использования в наших проектах нужен посредник, некая обвязка над библиотекой. Примером служат компоненты из вкладки мультимедиа, использующие библиотеку bass.

Возможно гдето в дебрях мануалов есть некие параметры позволяющие указать куда выводить видео. Я же пробежался мельком и нашел только вывод в файл(параметр filesink).
В вашем случае, с использованием командной строки, можно указать сохранение в файл с последующим воспроизведением в своей проге.
В любом случае надо листать мануалы.

Кстати, схема у Вас... , советую подробнее ознакомиться с основами схемостроения