попробуй загрузить на vimeo.com
для 720р - 2.5-3Мбпс норм. 50Мбпс слишком много, даже 5Мбпс многовато
для 1080р 5М ок
Для видео, в котором есть резкая смена картинки, чтоб не квадратило, можно увеличивать битрейт в 2-3 раза. Если резкая смена происходит не часто, то кодек сам поднимет битрейт
Делай сразу в том битрейте, что гугл тебе делает - так избежишь его неправильного кодирования
Мануал сложно дать. Все на что ты можешь повлиять - параметры енкодера
Почитай
https://trac.ffmpeg.org/wiki/Encode/H.264