Это не в нем проблема. Я только что проверил, заменив функцию SetWindowPos на MoveWindow, результат оказался тот же. Мне так кажется, что хандл родителей вписанного окна и окна с альфой отличаются, вот почему происходит срыв координации при альфа режиме