Запись без потерь нужна для обеспечения непрерывной записи в realtime, чтобы не было потерянных кадров. Можно писать в MOV.
Двухпроходное кодирование не нужно, так как вы всё равно заливаете на ютуб.
Иногда быстрее залить слабосжатый гигабайт на ютуб, чем переводить это сначала в 50..100 мегабайт и только затем заливать на ютуб.
Можете ещё использовать кодек webm -
nienhueser.de/blog/?p=469