Существует, и вы о нем знаете, это
ffmpeg, но как вы и сказали, будет требовать много ресурсов. Для решения этой проблемы, видео преобразуют при его заливке на сайт, сохраняя результат преобразования. В дальнейшем остается только отдавать заранее подготовленное видео нужного качества.