Как я понял из описания протокола сразу после соединения с сервером ему нужно послать команду MRIM_CS_HELLO, а он должен ответить MRIM_CS_HELLO_ACK.

Как я понял отправлять команды нужно не в текстовом виде, а в бинарном.
Причём каждая команда начинается с заголовка.

Там выложен заголовочный файл на языке C http://agent.mail.ru/proto.h