1) вместо vlc использовать mpv (легче)
далее, например, можно использовать связку:
mpv + youtube-dl + плагины mozplugger и mpv-youtube-dl-binding
2) использовать плагин greasemоnkey + скрипт
ViewTube
3) драйвера стоят на видеокарту ?
что показывает команда
lspci -k | grep -i -A3 VGA
в общем установить драйвер(свободный/проприетарный) и до установить необходимые библиотеки для аппаратного декодирования видео, для Арча смотри
здесь