Я тут на досуге немножко почитал...
Пока вижу несколько способов блокировки запуска:
1. Через реестр, по методу предложенным nesco, то есть средствами системы.
2. Изменение прав доступа к каталогу или непосредственно файлу.
3. Подменой пути к файлу, опять же в реестре (пахнет зловредом).
4. Периодически мониторить процессы и убивать "заблокированные", если часто проверять возрастает нагрузка на проц. (не фонтан)
5. Вешать хук на запуск через WinAPI (не знаю о чем говорт, я не програмер ), тогда антивирус точно взбесится.

Изучая в HiAsm стримы, нашол, что можно блокировать файлы с помощью FileStream в режиме ReadWrite
пример:
code_30489.txt
При такой блокировке файл можно только скопировать.

Блокировка запуска, аля "Групповая политика ограниченного использования программ"
code_30664.txt

А если программу просто переименуют, блокировка на запуск не поможет.

правильно, нужно либо читать файл программы либо память программы и определять ту или иную софтинку по сигнатуре