Именно. Но всеравно при участиии сервера.
То-есть, сервер ведет учет всех сообщений. Для отправки сообщений в публичный чат клиент посылает команду "сообщение всем". Сервер рассылает это сообщение всем подключениям.
Для отправки в приват посылаем команду "отправить сообщение указанному пользователю". Сервер перенаправляет его только нужному пользователю.
Почему сервер должен мониторить и накапливать все сообщения? Пользователь, войдя в систему, должен иметь возможность получить все "непрочитанные" сообщения (или за некоторый период).

Форма для приватных сообщений может быть и одна. Просто перед открытием запросить у сервера все сообщения между тобой и указанным пользователем и отобразить их в этой форме.