GavriKos

Total Commander в помощь, умеет искать по хексу

Так каждая игра по сути требует индивидуальный подход. Особенно это касается старых игр. Какое то обобщение можно сделать для игр на одном движке.

Вообще первично все просто. Вам нужно найти все файлы с текстами. Отбросим пока текстуры - предположим что все текста хранятся в текстовом виде. Ну вот пройдитесь поиском по папке и выясните на примере какого то существующего текста где они там лежат. Если какой то отдельный файл - повезло, скорее всего можно напрямую отредактировать. Если что то запакованное - думаем как распаковать, модифицировать и зашить обратно.

В чем проблема спросить у друга?

Не видя содержимого файлов невозможно сказать как их расшифровать.

А lua вообще обычно не шифруют, может обфусцируют, но не шифруют

Реверсинг начинается с понимания программирования на уровне дохреналет опыта. ВОт с этого и начинайте

Лучше начать с инжиниринга. Не имея представления как происходит первичный процесс - сделать обратный весьма сложно

Нет, вы не получите оригинальный код. В нем будут отсутствовать комментарии, часть констант, возможно заинлайнятся какие то вызовы, код будет более оптимален (если включена оптимизация). Не знаю еще как насчет препроцессоров и дефайнов - но их тоже не будет, если они есть в джаве.

Никто вам не даст универсального совета - потому что не бывает универсального туториала.
С 90% вероятностью надо править что то в коде. Возможно - в конфигах. Распаковываете игру (это архивы) и изучаете каждый файл.

то виден как раз-таки тот самый нужный текст, но оно закрывается из-за того, что запущено не как служба

а как вы его запускаете не как службу? Может стоит запустить именно через консоль? Тогда оно закроется, но выхлоп останется в консоли.

Если вы сами их надежно не зашифровали - то константы не зашифрованы.

1) Такой вопрос тут уже был - ищите.
2) Зачем вам его декомпилировать? В чем конечная цель?