начать можно с проверки обмена между RPi и PC (нужен адаптер TTL-USB. вообще здесь хорошо расписано, как к компу подключать:
elinux.org/RPi_Serial_Connection )
на RPi, например, так: socat - file:/dev/ttyACM0,b115200,raw,echo=0
на PC: можно что-нибудь вроде
этого
если нету адаптера для подключения к PC, можно выполнить простейший loopback тест на RPi:
ставим перемычку между Rx и Tx пинами, запускаем команду socat выше и пробуем набирать символы. видим по 2 символа -- все ок, последовательный порт работает. если нет -> изучаем ссылку выше.
UPD: RPi похоже под другим именем свой UART отображает. На RPi3 -> /dev/ttyAMA0 . предыдущие ревизии: /dev/ttyS0