Пример обратного перекодирования, из AVI в MP2 для онлайн-вещания, с увеличением размера:
vlc -I dummy "Kino_Ishodnoe.avi" :sout='#transcode{vcodec=mp2v,vb=4096,acodec=mp2a,ab=192,scale=1,channels=2,deinterlace,audio-sync}:std{access=file, mux=ps,dst='"Kino_Gotovoe.mpg"'}' vlc://quit
Примеры transcode со сменой кодека, разрешения, сжатия, битрейта и т.д.
смотрите тут:
wiki.videolan.org/Transcode#Example_script
и тут:
habrahabr.ru/post/73944/