Регулировать глобальный лимит рекурсии можно с помощью соответствующих функций из модуля os:
import sys
print(sys.getrecursionlimit()) # Получить текущий лимит рекурсии
sys.setrecursionlimit(1500) # Установить лимит рекурсии в 1500
Внутри отдельной функции можно ограничить количество рекурсивных вызовов с помощью специального параметра-счётчика, например, так (LIMIT не должен превышать глобальный лимит рекурсии):
LIMIT = 1500
def test(..., calls=0):
...
if calls >= LIMIT:
return
return test(..., calls=calls + 1)