Кому ему? Если ошибка на DestroyWindow(hNotifyWnd), то hNotifyWnd содержит уже неправильное значение. Можно сделать выдачу значения hNotifyWnd в лог, чтобы в этом убедиться.
Вряд-ли закрытие DSM само уничтожает окно.
------------ Дoбавленo:

NetCom, а есть ошибка в моём примере? Там, где TWAIN только один раз используется.