with open("banlist.txt", "a") as CheckBanUsers:
id = CheckBanUsers.readlines()
Почему файл с флагом
a открыт, если нужно прочитать с него что-то?
Ну и следует подумать над наименованием переменных. В переменную id вы получили не чей-то id, а список строк из файла.
Файл лучше прочитать по другому, потому что
readlines оставит символы переноса строк
Ну и к числовому типу ваш id не приводить (скорее всего он и так число, если уж на то), из файла вы можете прочитать только строки. Число никогда не будет равно строке
with open("banlist.txt", "r") as CheckBanUsers:
banned_ids = f.read().splitlines()
if str(invite_id) in banned_ids:
