Andrey Dugin

ИИ - область машинного обучения, нейросеть - один из инструментов.

1) То есть вы используете return вне функции? И чего вы при этом ждёте, кроме ошибки?
2) Проверяйте успешность возвращаемого результата, и только потом обрабатывайте frame:

ret, frame = cap.read()
if ret:
    ...