Если Flash также устраивает, наверно надо копать в эту сторону.
Вот тут и
вот тут решаются задачи по меньшей мере похожие на вашу.
А
вот здесь предлагают решения и на JS, и на ActiveX.
В частности, речь идет о
библиотеке html2canvas. Однако насколько я понял из описания, она делает скриншот на основе кода страницы, т.е. эдакий браузер, который выводит не на экран, а прямо в файл-картинку.
Могу ошибаться, но мне кажется, что видео такая штука не захватит.
То есть я бы подтолкнул ваши мысли в направлении ActionScript 3, благо Flash вы итак используете на сайте.