видеокамеры, подключенной по HDMI к ПК
такое подключение возможно только при наличии карты видеозахвата с соответствующим входом (либо hdmi либо dvi-d, т.е. цифровой). Выбор карт определяется ее возможностями, usb карты не позволят брать несжатый поток, а дешевые не позволят адекватно настраивать качество сжатия. pci-e карты расширения по ценам начинаются от 7т.р.
Софт - ffmpeg или vlc если нужен gui, позволяют запускать трансляции с карты видеозахвата или вести запись с перекодированием (если хватит мощности железа), кстати с ограниченной поддержкой gpu ускорения.