Борьба с перепадами громкости в обработке звука называется компрессией. Компрессия (в большинстве случаев, и если тоже объяснять на пальцах) - это когда у нас громкие моменты начинают делаться не такими громкими при прохождении некоторого порога по громкости. Таким образом, сжимается динамический диапазон и разница между тихими и громкими моментами сглаживается. В плеере VLC в окне "Audio Effects" есть компрессор. Если VLC не устраивает - можете поискать плеер с поддержкой плагинов VST (если мак - AU или VST, если линукс - LADSPA или LV2). Плагин-компрессор можно очень легко скачать бесплатно где угодно. Можете поискать подходящий тут:
www.kvraudio.com
О самих принципах компрессии можно почитать тут:
http://wikisound.org/Компрессия
Плюс, как вариант, можно найти способ обрабатывать плагинами весь системный звук. Под мак это Audio Hijack.