рассылки через телефон (модем\другое устройство) в любом случае будет дорого и медленно. Нужно или договариваться с опсосами, или использовать уже существующие шлюзы
ru.wikipedia.org/wiki/FFmpeg — всё равно все кодировщики пользуют в той или иной мере ffmpeg. с настройками один раз разобраться, и дальше всё будет легко и просто