решение проблемы (вдруг кому то тоже пригодится) — использовать gstreamer
вот такая простенькая команда в консоле
gst-launch-0.10 --eos-on-shutdown v4l2src device=/dev/video1 ! video/x-raw-yuv,width=360,height=288,framerate=25/1,norm=NTSC ! tee name=my_videosink ! videorate ! jpegenc ! avimux ! filesink location=video.avi my_videosink. ! queue ! ffmpegcolorspace ! ximagesink
берет видео с аналогового источника (easycap60), показывает картинку с него и кодирует MotionJPEG
к сожалению выше 360х288 видео совсем медленно работает, но и 320х240 под мои задачи подходит более чем =)