message.chat.id
является числом, поэтому все строки из users.txt Вам необходимо привести к числовому типу.with open('users.txt', 'r') as fp:
user_ids = [int(l) for l in fp.readlines()]
@bot.message_handler(func=lambda message: message.chat.id not in user_ids)
def access_msg(message):
bot.send_message(message.chat.id, 'No Access!')