ALEX, в МР3 используется психоакустическая модель на основе 1024-точечного быстрого преобразования Фурье (БПФ), а так же два типа банков многодиапазонных частотных фильтров.
Ещё меня интересует математика сжатия файлов (*.rar, *.zip ...), но я понимаю, что разобраться в этом сложно и жалко остаток своего времени убивать на праздное любопытство. Остановитесь!