1) Устанавливаешь
2) В настройках ставишь "Информация в реестре" = false
3) Папку с программой - на флешку и вперед.
Правда конкретно на сборках от CriDos не проверял.