ну грамматика на лео платная, пробный курс вроде бы есть, а тексты читать и незнакомые слова добавлять для изучения комфортно только с золотым статусом
вроде matplotlib может рендерить
еще вариант, если выводить в браузер, то отрисовывать latex средствами js (MathJax, KaTeX)
возможно есть отдельные утилиты, которым передавать формулы и получать png
docx\odt - это zip c xml-файлами внутри, т.е. если файлы потом обрабатывать скриптами, это удобней чем с родным бинарным doc
все зависит от дальнейшей работы с файлами, если вам нужен будет поиск, то возможно вообще нужно будет html в базах, если архив документов то там большой разницы нету в форматах, хотя если их тысячи то идет экономия на памяти