8 байт исходный, во что превращается после doRandSeed не знаю, не смотрел
2. Тут много нюансов, например наш криптованный файл попадает не в те руки. Многое зависит от "известно ли что в коробочке".
Если заголовок, да или любая сигнатура исходного файла не известна, и нет утилиты, посредством которой файл был зашифрован - начинаются пляски с бубнами...
В статье на которую Вы дали ссылку, рассматривается вариант, когда уже чтото известно.
Как определить алгоритм шифрования, я лично не знаю, но думаю что опять же без знания что должно получиться в итоге совсем не просто решается задачка.
Если же есть шифротекст и прога его создавшая, и не хватает лишь ключа вот тогда уже длина ключа определяет все.
Вот к примеру схемка, алгоритм которой лего вскрыть (соответсвенно и ключ выяснить), если шифровать файл более 14 байт (если ключ ессно не менять)
code_1112.txt
ЗЫ:

Собственно, совсем даже нет... Не так много именно на паскале примеров, но суть одна...