если в двух словах, то примерно так..)
за исключением того, что не будет запроса пароля. будет производиться поиск ключевого файла и/или записи в реестре. после сверки, запуск файла уже в "родной" программе.
имена открываемых файлов могут быть (и будут) любыми, но исключительно ОДНОГО расширения.
ps. да, это немного похоже на всевозможные "смс-вымогатели", но, поверьте на слово, это не они...)
ps2. никакого перехвата не планируется. просто родной ехе-шник не сможет запустить свои же файлы без этой проверки.

pps3. если я все правильно понимаю, то при запуске искомого файла моя программа (после окончания сверки) должна взять имя и расположение этого файла и передать его в качестве параметра родному приложению.
но вот как это сделать - знаний пока не хватает. хотя именно это действие наверно и называется перехватом...)