Если речь идет про линукс, самый быстрый вариант с помощью утилиты locate. locate .mp3
Можно эту программу через модуль subprocess вызывать.
На питоне можно использовать https://docs.python.org/2/library/glob.html
Но это работает примерно как find, т.е. не очень быстро, если по всему диску искать. Если к конкретной папке, то норм.
