1. Открываем фотошоп
2. Создаем квадратную/прямоугольную белую картинку (размером с видео)
3. Вырезаем в ней дырку в центре нужной формы
4. Сохраняем как пнг с прозрачностью
5. В HTML вставляем div слоем выше видео.
6. Фоном для этого дива используем эту картинку
7. Profit!
Так возьмите Illustrator, сделайте импорт. Далее у них там есть инструменты для умного преобразования из растра в вектор. Если качество устроит, далее делаем export to svg и всё.
Конечно же на D3.js. Очень мощная библиотека для работы с SVG. Супер упрощает всю связанную с ней анимацию.
Если нужно что-то другое, то можно посмотреть еще на: greensock.com/tweenmax paperjs.org
P.S. Почему не вручную? Все равно придется написать какую-то перекрученную функцию для работы с path.
По скольку фон сайта однородный белый, то проще всего это сделать прозрачной маской поверх фото.
Т.е. использовать прозрачный png без всяких CSS эффектов.