Saboteur

max_health = 100
current_health = 24
max_damage_multiplier = 4

получаем текущий процент здоровья (current_health / max_health)
переворачиваем его, чтобы получить прибавку от мЕньшего здоровья (1 - current_health / max_health)

умножаем максимально возможный множитель на полученный процент, и получаем:

current_damage_multiplier = max_damage_multiplier * ( 1 - current_health / max_health )

потом просто умножаешь урон на множитель
damage = damage * current_damage_multiplier

Хранить процент здоровья отдельно не нужно, если есть макс и текущее, всегда же можно вычислить.

зависит от опыта.
Если сталкивался с LuaJIT, то LuaJIT, если сталкивался с С/С++, то с/С++.

Как бы общего хакерского системного образования не существует.

LUA не совсем полноценный язык. LUA хорош как универсальный язык для программирования внутренней игровой логики, поскольку есть уже готовые библиотеки для встраивания LUA куда угодно.

Но на LUA в основном пишут логику игровых персонажей, квесты и так далее.

Новичку следует не выбирать технологию для разработки игр, а сперва изучить основы программирования.
Изучить язык программирования - это просто минимальная база, которая вообще ничего не стоит, а займет уже порядочно времени.
Изучение библиотек и уж тем более движков - на вашем месте начните писать хеллоуворды, пока не почувствуете, что осилили достаточно, чтобы писать что-то сложное.
Попытка написать сложное с нуля, без знания основ - неэффективно.