LastDragon

Возможно, кому то будет интересно — проблема решилась написанием расширения для xslt процессора и его добавлением в стиль (написано на java, для конвертации текста используется org.eclipse.mylyn.wikitext)

Пример класса:

package ru.lastdragon.ipb.toolkit.xslt;

public final class Converter {
    public static String toHtml(String path) {
        // .....
    }
}

Пример стиля:

<xsl:stylesheet version="1.0" 
    xmlns:xsl="http://www.w3.org/1999/XSL/Transform"
    xmlns:converter="ru.lastdragon.ipb.toolkit.xslt.Converter"
    extension-element-prefixes="converter"
    exclude-result-prefixes="converter">
    <xsl:output method="html" version="1.0" encoding="UTF-8" indent="yes" />
    
    <xsl:template match="/">
        <xsl:value-of select="converter:toHtml('path/to/file.textile')"/>
    </xsl:template>
</xsl:stylesheet>

Если кому-то понадобится, код можно будет найти (если успею сегодня закомичу) в репозитории проекта IPB3 Toolkit (toolkit) (лицензия GPLv3).