Ну для начала определи смысл слова "выключить".
Если приложение заняло микрофон, оно им управляет. Максимум, что ты можешь - это "попросить" приложение замьютить микрофон. Например, имитировав щелчок по соотв. кнопке или нажатие соотв. комбинации клавиш. Разумеется, это зависит от приложения.
Скорее всего, это единственный реальный для тебя вариант, так что смотри в сторону модулей pywinauto и pyautogui.
Альтернатива - вырубить устройство через диспетчер устройств. Это не факт что просто, и неизвестно, как поведёт себя внезапно "оглохшее" приложение. Сможет ли оно потом подхватить микрофон обратно? Если да, как быстро? Это неизвестно заранее.
Есть ещё экзотический вариант - использовать что-то типа Virtual Audio Cable, т.е. сделать управляемый тобой виртуальный микрофон, который просто передаёт звук с реального, и настроить приложения в системе на его использование. Тогда ты сможешь по желанию подменять звук этого микрофона на другой аудиопоток, в т.ч. на тишину. Но это ОЧЕНЬ нетривиальная задача для самостоятельной реализации.
Простой
Средний
