Да, действительно, есть такая ошибка. Что самое интересное -- после установки стоит по-умолчанию отладка через mail-слот и никакими коврижками его не вернешь обратно на UDP. Кликаешь, переключается, компилируешь -- ошибка, перезапускаешь -- опять mail-слот. Это повторяется до тех пор, пока не перезапишишь Settings.cfg, похоже, что эту настройку в конфигурационный файл не записывает, а на maile по-умолчанию выдает ошибку. Как я уже отметил, лечится перезаписью нового файла Settings.cfg старым, из предыдущех версий, где стоит UDP.

Попробовал на нормальной версии, где стоит UDP, откомпилировался нормально, переключил на maiд, тоже -- нормально. Перезапустил HiAsm, настройка осталась на UDP. Складывается впечатление, что вообще не переключаются типы соединения отладчика
------------ Дoбавленo в 18.01:
Последовательность действий

1. Устанавливаем HiAsm в любую папку.
2. Интегрируем HiAsm в ОС
3. Устанавливаем Compiler
4. Рисуем простую схемку для трассировки с отладчиком
5. Запускаем схемку на Compilere в режиме отладки с трассировкой
6. Наблюдаем ошибку компиляции
7. Заходим в настройки отладчика и смотрим, там по-умолчанию типа соединения стоит mail-слот
8. Пробуем переключиться на UDP
9. Запускаем схемку на Compilere в режиме отладки с трассировкой
10. Наблюдаем ошибку компиляции
11. Перезаходим в HiAsm
12. Смотрим настройки отладчика, там остался mail-слот