Получилось лишь через масштабирование фильтром и установку предельных значений битрейта.
В чём разница, в точности, -- непонятно (билды, фильтры, алгоритмы скалирования -- куча всего).
Где это в документации -- непонятно.
Encoder:
-f rawvideo -s %(width)x%(height) -i - -c:v mpeg4 -filter:v scale=480:-1 -b:v 500k -maxrate:v 500k -minrate:v 400k "%(tempvideofile)"