Эдик, движок я так понимаю это набор типизированых эффектов, физики взаимодействия, и так называемого AI игры. Что-то уже сделано из эффектов и физики, но мало применимо в играх.
Чтобы сделанное приспособить к играм необходимо сначала сделать 3D редактор заточенный под OpenGL.
Хотя-бы с минимальным набором функций, приминимых к любому 3D объекту.

flud, и получится как всегда, жёсткие ограничения накладываемые подобными библеотеками на качество и возможности картинки(при этом ничего нельзя исправить), несовместимость, необходимость таскать хвост из dll.
Начинаем делать 3D редактор , пусть я буду ответственным за эффекты.