- Simscape (симулинк тоже можно, но вообще говоря, он для другого)
- AMESIM
- OpenModelica
- SimInTech

И т.д., и т.п.

Но для моделирования конкретно ДВС на автомобиле - это будет больно. Поэтому профильные организации используют более специализированный софт типа GT-SUITE, AVL BOOST/CRUISE/etc

Можно писать текст в markdown а потом конвертировать его в docx/odt с помощью pandoc по своему шаблону. Но скорее всего потребуется мелкая правка итогового документа, так как функционал md не слишком велик.

1. Python. Объясню почему: он более-менее универсален. Интерес вещь хорошая, но он может закончиться, а жизнь как сложится - тоже заранее неизвестно. С питоном проще сместиться: хоть в web, хоть gamedev, хоть в прикладную разработку. Если же взять вместо него R или помянутый уже matlab - областей применения куда меньше.

2. Сперва школьная математика. Если с ней нет проблем, можно пытаться самостоятельно лезть в базовые вузовские курсы по теории вероятностей/комбинаторике/статистике. (Причем нужна именно статистика, но в нее сразу может быть слишком тяжело)

3. Конкретного ничего не подскажу, но на openedu есть много профильных курсов, бесплатно, должно получиться что-то подобрать.