Это совершенно нормальное поведение mp3-кодеров (ну lame как минимум) при определенных пресетах/битрейтах.
Суть в том, что кодер режет высокие частоты, чтобы отдать дефицитный битрейт более важным низким и средним. Но в некоторых местах высокие частоты имеют достаточно высокую амплитуду, и почикать их совсем — нельзя. Тогда кодер оставляет их в половинчатом виде, насколько это возможно.
На неком более низком битрейте он бы их срезал вообще. На более высоком — оставил бы без промежуточной ступеньки.
Хотя, насколько я знаю, разработчики lame не рекомендуют полностью отключать low-pass фильтр, и даже на самых высоких битрейтах «прореживание» делается.