Наконец-то исправил. Проблема была в кодировке. При передаче byte array надо конвертировать в String с использованием кодировки "windows-1251" с помощью new String(msgToClient.ToPacket(), "windows-1251"), на клиенте принять с помощью input.nextLine().getBytes("windows-1251").