Передаточная функция — это просто термин, обозначающий преобразование входа в выход. Применяется в теории управления, соответственно читать про неё можно в вузовских учебниках по теории управления. Или в википедии :)
Вообще при прохождении сигнала через ROADM его спектр меняется весьма интересным образом. Я это наблюдал на каскадах из двух MUX/DMUX 100GHz, когда в спектре получается «плечо» из усиленных шумов, попавших в полосу фильтра OADM.
Это картинка из статьи EXFO:
www.exfo.com/Documents/TechDocuments/Application_Notes/EXFO_anote171_In-Band-OSNR-ROADM-Challenge_en.pdf
Как я понял, проблема с OSNR после ROADM имеет два аспекта: во-первых, OSNR в разных каналах может иметь разный уровень из-за разных оптических путей сигнала в разных каналах; а во-вторых — форма спектра после ROADM меняется и для измерения OSNR нужно учитывать это изменение формы спектра.
В моём случае (в моих экспериментах) измеренный OSNR в канале после ROADM численно с достаточной точностью совпал с расчетным, но форма спектра группового сигнала действительно имела описанную ступеньку.
Поскольку OSNR заметно деградирует на всех затухающих элементах, то логично ожидать того, что увеличение числа каскадов ROADM приведет к деградации OSNR.