У меня на всех камерах probe такое выдает, хотя камеры работают нормально. Надо рыть глубже. Включите дебаг, смотрите что в логах будет. Причин может быть множество. В каком режиме работает камера, какой поток выдает, что в настройках zm? Ваша камера в motion jpeg вроде умеет вещать, тогда ffmpeg скорее всего можно поймать стрим. Кстати, а avreg вас чем не устроил? Просто сейчас смотрю тоже на него.
