https://vk.com/topic-234634991_55734143

Если происходит падение БОЛЬШОГО проекта с ошибкой "Out of memory" из-за расходования всех ресурсов GDI, то можно
повысить количество допустимых хендлов на процесс в этом ключе реестра: HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows NT\CurrentVersion\Windows\GDIProcessHandleQuota (макс. 65535) или HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows NT\CurrentVersion\Windows\USERProcessHandleQuota (макс. 65535).. Иногда чрезмерно большое количество открытых хендлов в программе свидетельствует об утечке ресурсов. Советую оптимизировать ресурсы в проекте (картинки, иконки, например). Лучше использовать общие менеджеры для многооконных панелей.
Проверено. Если скажешь не помогло - тебе уже ничего не поможет.