esc

Нужно просто поиграться с настройками h264, там их много-много. Кроме битрейта и пресета нужно смотреть еще профиль. Очень желательно включать cabac и bframes. Пресер использовать какой-то из медленных и дальше уже играться с битрейтом.