В MathParse есть пример с внешним вычислением факториала.
Переполнить факториал - да как два пальца. И переполнение будет именно в элементе Math.
А поймает MathParser - давно известное дело, вроде бы....