В общем, единственным, что я нашел из бесплатного по данной теме — JackMeter (это такая консольная программа под linux для аудиосистемы JACK, сам JACK по сложности настройки сравним с sendmail.cf).
Для Windows существует целая уйма платных программ типа «Audio Spy», «Spy Voice Recorder» и т.д.
К сожалению, единственный параметр, к которому можно привязать действие — громкость звука.