pulseaudio, но это только для Linux. А для винды так и не нашел решение, чтобы выводилось не в динамики и в программу (через стерео микшер), а только в программу захвата. Возможно может помочь VAC, надо разобраться, а то раньше с этим не сталкивался.