А что значит "написать антивирус на python с графикой на pyqt5" и в него "встроить какой-нибудь антивирусный движок" Т.е. по сути вы хотите создать GUI над готовыми антивирусным движком? Тогда зачем вам "осуществлять поиск вируса", если за вас это сделает сам движок? Да и проблем с поиском сигнатур не возникнет.
Ну а на сами вопросы - "где взять движок" и "где взять базу сигнатур" ( и кстати - как их потом ПОСТОЯННО, ежедневно обновлять) - ответ очевиден. Связываетесь с любым разработчиком антивирусов (начиная с Касперского, ESET, Dr.Web - впрочем не знаю, жив он еще, не слежу - McAfee или каким либо другим по вашему выбору) и узнаете у него на каких условиях они готовы вам передать эти свои know-how. Готовите запрошенную ими сумму денег, покупаете на официальных условиях и используете.