Если вкратце, то изучите реверс индженеринг.
Jar это по факту тот же zip. Но внутри архива лежат class файлы (байткод). Соответственно, вам нужно декомпилировать их в исходники или можете поискать исходники (source code) на гитхаб, битбакет и т.д. Вдруг, это опенсорсный проект.
Можете начать с этого аналогичного вопроса:
https://stackoverflow.com/questions/647116/how-to-...
А лучше начните изучение самого языка, а потом вопросов будет относительно меньше.
