Проблема явно в неправильной скорости порта. Попробуйте установить termite (или любую другую терминальную ПО с настройкой скорости) и выставить скорость 4800, 5760, 720, 1200. На одной из них должно заработать. Для теста лучше выводить строку аля "test123"