Для вывода сообщения в нормальном виде попробуйте выполнить команду
chcp 1251 перед запуском программы. Или можно в реестре поменять кодировку по умолчанию, как
тут сделано.
По поводу самой ошибки: в Windows порты по умолчанию разделены на две группы, работа с которыми требует разных прав (на самом деле там всё сложнее, но я подробностей не помню). Попробуйте увеличить номер порта, что-то вроде 51501. Ну или с правами администратора запустите для проверки. Возможно, у вас проблема не в этом, но я с таким сталкивался.
EDIT: Если не получится с кодировками, выведите номер ошибки и ищите по нему, boost это позволяет сделать. Ну и напомню, что для работы клиента нужно сначала запустить сервер, а то мало ли.