Идея абстрактная, но вполне реальная, в особенности для ЯП Python, модуля telebot.
Создайте простую базу данных (например, с помощью модуля csv), и запишите туда айди пользователей и значение переменной, которая подсчитывает количество добавленных пользователей (по условию равна 0).
Если пользователь добавил другого пользователя, файл будет перезаписываться: если строка с айди в базе равна тому айди, что пригласил, увеличьте значение переменной на 1, и перезапишите файл (для этого ознакомьтесь с функциями csv.reader() или csv.DictReader(), csv.writer() или csv.DictWriter()).
При попытке отправить сообщение напишите следующий алгоритм: при считывании файла если пользователь пригласил 10 или более человек, то с сообщением ничего происходить не будет. Иначе удалить сообщение, и можно предупредить, что до возможности отправки сообщений осталось добавить n друзей.
Как-то так :)
Буду рад обсудить детали в комментариях.