обязательную компилляциюГде в стандарте WebAssembly что-то про компиляцию описано? Как она вообще относится к нему? Откуда ты это придумал?
Исходное видео весит 1,5 gb после конвертации весит 755 mb, что ухудшилось?Транскодирование в любом случае ухудшит качество, потому что, когда вы перекодируете один lossy формат в другой lossy формат, у вас всегда будет накапливаться ошибка. Она может быть незаметна для неискушённого человеческого глаза. Так что, отвечая на ваш вопрос, скажу, что ухудшилось примерно всё. Но заметите ли вы -- это уже другой вопрос. Оно могло ухудшиться на 1%, а могло и на 10. Если задаёте вопрос, а не просто, посмотрев на картинки, точно понимаете, что видео стало хуже, значит ничего не произошло фатального. Ухудшение в пределах погрешности.
Как я понял битрейт в 2 раза хуже?Не хуже, а меньше. Меньше -- не всегда хуже. В 2 раза он уменьшился, только потому, что формат h264 имеет примерно в 2 раза большую степень сжатия, чем формат mpeg4.
Для создания сырой секции в PE-файле ищи другую либу.