По-идее необходимо взять набор сэмплов, которые имеют известные частоты, после чего с максимальным качеством записать в каком виде выдаёт плеер, затем надо проанализировать чем отличается звук, выдаваемый компом от этого и внести корректировки.
Однако тут влияет не только и не столько звуковая карта, сколько аудиосистема и акустика помещения.
ИМХО, слишком специфическая задача => если и есть софт, то профессиональный комбайн, а ещё скорее это делается отдельной аппаратно-программным комплексом.