Попробуйте до этого что-нибудь текстом вывести. И цифрами, и русскими/латинскими символами. И т.п. Но скорее всего это несовпадение скоростей или режимов работы - повыбирайте разные варианты. Возможно, стоит не тот кварц, но это экзотический вариант.
Проблема явно в неправильной скорости порта. Попробуйте установить termite (или любую другую терминальную ПО с настройкой скорости) и выставить скорость 4800, 5760, 720, 1200. На одной из них должно заработать. Для теста лучше выводить строку аля "test123"