Короткий ответ - часто да, а в общем нет.
Подробнее - в зависимости от того, как карта захвата подключена к компьютеру, можно собирать информацию об устройствах pci или usb) причем штатными средствами ос, и от этого можно защититься виртуализацией (но ее в свою очередь скрыть почти невозможно).
При подключении карты захвата к hdmi/dsub детектировать почти невозможно, есть протокол общения с монитором, где передаются параметры поддерживаемых разрешений и куча другой информации, именно эта информация поможет детектировать карту захвата, но нужно будет изучить рынок устройств и банально собрать базу этих EDID