1. h264, с настройками экспериментировать... Получить битрейт меньше 5мбит на таком размере картинки вполне можно, обычно без особой потери качества...
2. Много его для разных платформ. Можно какой-нибудь handbrake взять бесплатный, и с пресетами готовыми... Качество больше от настроек сжатия зависит а не от софта.
3. Можно, в принципе, но не решит вашей проблемы - канал не станет шире ни на сервере ни на клиенте, а с воспроизведением будет больше проблем...
Надо, к тому же понимать, что ваш хостинг должен иметь достаточно широкий канал, чтобы отдавать видео одновременно нескольким клиентам, и то, что оно будет жрать много трафика, и как бы не упереться в какое-нибудь ограничение и не попасть на лишние деньги... Ну и при большой посещаемости, и широком канале, узким местом может стать диск, например. В общем, отдача видео это не так просто...
4. Возможно изгнать дизайнера, который это придумал? =)
Как говорится, в каждой шутке есть доля шутки. Например, клиенты открывшие сайт через мобильную сеть будут совсем не рады такому расходу трафика, даже если у вас получится раз в 5 уменьшить видео, а у них его без лагов посмотреть... Т.е. видео в фоне, это может быть и красиво, но не практично, и зачастую, очень проблемно и для пользователя и для хозяина сайта... Может быть лучше каким-нибудь слайдшоу в фоне обойтись?