Это никак не шестнадцатеричная система счисления. Возьми поупражняйся в обычном калькуляторе (в инженерном режиме). Или давай больше примеров: что дано, что получается и т.д.