peacefulatom

Для RTOS у ARM есть специальная "R" серия. По производительности Вам подойдёт.
www.arm.com/products/processors/cortex-r

По второму пункту вспомнилось "Семь моделей конкуренции и параллелизма за семь недель" и "QNX/UNIX Анатомия параллелизма".

Есть софтварный сервер под linux - ser2net. Достаточно популярная, пакет ser2net есть в репозитории. например, Ubuntu, openwrt. Сам пользовался, рекомендую.
Из аппаратуры пригодится usb-хаб, usb-com адаптеры, и, если хотите что-нибудь вроде raspberry pi, хотя можно использовать и обычный ПК.

В ответе от lamazavr предложен, с практической точки зрения, верный шаг. Лично я так и сделал, получив образование инженера-электроника 3 года назад, шагнул в embedded linux. На данный момент я умею пользоваться такими инструментами, о которых написано выше, собирать и портировать ядро для разных плат, админить localhost, писать программы на С под linux, драйверы тех же SPI, I2C устройств. Как видите, я никуда не ушёл от встраиваемых систем, и профиль менять пока не собираюсь. Разве что мой професионализм приобрел крен в сторону телекоммуникаций.
На Вашем месте, для более гармоничного развития, я бы сперва повникал в устройство микропроцессоров и RTOS. Тем более, что последние работают на тех же микроконтроллерах, с которыми Вы имели дело. Сейчас по-прежнему достаточно устройств, которые обходятся без linux, есть даже и такие, которым он противопоказан.
Можно поддержать неплохую отечественную разработку - embox. К примеру, возьмите свою Tiva C, что зря лежит, и реализуйте её поддержку в embox, станьте контрибутором проекта. Неслабая такая задачка, по-моему, да? Когда сделаете, многие, и лично я в их числе, Вам будут завидовать.