Ну тут все зависит от того чем именно занимаеися провайдер (какими услугами, технологиями)
Из комментариев понятно, что последняя миля на xPON, соответственно нужно искать и читать литературу по построению PON сетей0, желательно используемого вендора. Там будет и про OLT и про ONT и про различные типы конечных устройств.
Агрегация/ядро, это как вы уже написали OSPF, DHCP, BGB, NAT, MLPS, AS и тп. - но это уже вотчина серьезных инженеров (главного админа), но для разнообразия почитать интересно.
Ну а также, обычно мелкие провайдеры интернетом не ограничиваются, у них как у автозаправок "сейчас на одном бензине не выживешь, приходится делать ставки на кофе", также и мелкие провайдеры в основной делают ставки на локальных ресурсах типо облачного видеонаблюдения, ip-телевидения, домофонии и прочих IMS услуг, их построение тоже можно изучать.
Ну и используемые системы администрирования, биллинга и контроля