Такого понятия как "хранение чисел в hex" нет. Запись ввиде hex значения это уже строка, а не число.

Лишние байты в порт попадать не могут - тут ошибка в схеме