Страницу нагружает любое, даже просто текстовое содержание, в зависимости от объема.
Другой вопрос - нагружает ли сервер?
Если вы подключаете видео с, например, youtube - страницу будет нагружать только видео, а при его воспроизведении сервер сайта не будет получать нагрузку, т.е. весь трафик будет лететь со стороннего ресурса.
Подключая со своего сайта - у вас еще и трафик с сервера полетит. У video же есть параметры, такие как preload и autoplay. Если вы не подгружаете заранее и не ставите на автовоспроизведение - видео сильно грузить не будет.