Решение зависит от того в каком формате нужно получить документацию. Рекомендую писать на языке разметки, а не в текстовом процессоре. В последствии обновлять документацию и конвертировать её в разные форматы будет гораздо проще.
Markdown подойдёт в большинстве случаев. Для более сложной разметки есть reStructuredText.
- Есть прекрасный Sphinx, который понимает Markdown и reStructuredText. Умеет генерировать статические сайты, юниксовые страницы мануалов, PDF и ещё много чего из единого исходника.
- Очень просто на Markdown можно собрать сайт с помощью Docusaurus.
- Документацию на языке разметки можно выложить в Wiki в репозитории на GitHub, если особых требований к размещению нет.
Если хочется WYSIWYG, то берите редактор Markdown, который так умеет. Например,
Typora.