Вам поможет Цифровая Обработка Сигналов - она же DSP
Что вам нужно:
1. постоянно вести запись звука и выполнять операции выделения "гудка"
2. если гудок появляется, то DSP это покажет через резкое увеличение какого-то параметра - нп. амплитуды какой-то частоты.
Самое сложное - определить характеристику гудка - частоту(ы), минимальную длительность. Тип гудка не стандартизирован, но нужно проверять - возможно они чем-то похожи. Проанализировать сигнал можно в программе ru.wikipedia.org/wiki/Audacity
Из DSP процедур посмотрите в сторону FFT(БПФ) и алгоритма Герцеля (Goertzel algorithm)

Выносить код в отдельную dll имеет смысл только если нужно запускать несколько экземпляров вашей программы, либо в dll можно вынести какой-то специфичный код, который зависит от типа Операционной системы или других факторов (нп. создание тестовой библиотеки и полноценной)
Про разбиение одного файла на несколько - тут @KOLANICH верно описал. Добавлю, что в заголовочные файлы (.h) желательно не размещать ничего, кроме определения типов и классов, а также описания сигнатур функций: т.е. ни глобальных переменных, ни тел реализаций функций тут быть не должно, в общем - ни какой логики.
А также стараться поменьше включать заголовочные файлы друг в друга - потом на грабли с очерёдностью компиляции наткнётесь.