Ему нужно передать командную строку точно так, как бы ты её ввел в стандартном cmd.exe.
Например:
WinExec.Filename=runner x64.exe
WinExec.Param=java -Xincgc -Xmx256M -Xms256M