про flv тут только hitman249 толкует.

В Linux-ах при включенном композитном менеджере видео поток рендерется на текстуре, которая потом натягивается куда угодно и на что угодно, поэтому ее можно фоткать, деформировать, изменять прозрачность и делать все остальное, что душе угодно. Если же выводить видео непосредственно в видеопамять на карточке, то очевидно никаких скринов стандартными метода сделать будет невозможно.