Чудес не бывает. Если эта прога использует ключи boot.ini "/3GB" "/userva", то не удивительно что тебе пришлось убрать видяху: драйвера используют вторую половину адресного пространства (а в 32-битах это между 2Гб и 4Гб) для своих нужд. И включение этих параметров позволяет программам залезть не в свой огород. Аналогичные проблемы могут возникать даже с драйвером какого-нибудь принтера.

Кроме того, это позволит запустить больше программ одновременно. Но отдельная программа все равно не сможет получить в свое распоряжение больше 2 Гб. Если в коде не используются такие технологии как Address Windowing Extensions или Large Address Aware.