Более правильно: "не весь результат шифрования подходит в качестве имени файла". Решение - после шифрования полученное имя перевести в HEX.