Готового решени для RT не знаю, но я
конвертировал FlowDocument в PDF с использованием PDFSharp.Xps.
Сам PDFSharp.Xps вроде бы не содержит зависимостей от GDI. PDFSharp-WPF возможно тоже очищен. Либо можно попробовать очистить PDFSharp от ненужных методов с зависимостью от GDI.
Последнее, конечно, сложновато будет.
Сам PDFSharp.Xps просто делает вывод разметки PDF в текстовый Stream. Ему GDI не нужен, т.к. координаты для примитивов получены уже при сохранении в XPS.
PS: нашел еще
ссылку в соседней ветке