Вам требуется создать видеопоток (даже проще, видеофайл) из непрерывно создаваемых в памяти кадров, как я понимаю. Отсюда вывод - промежуточное сохранение в графический формат - избыточно.
Простое решение, рендерите каждый кадр в память (ну в обычный буфер в памяти) и пакуете theora в видеофайл.
www.theora.org
svn.xiph.org/trunk/theora/examples
Выбор теоры - ну бесплатно, в исходниках, хорошая документация, СПО.