Рекомендую либо экранировать обратные слэши (как в моём примере), либо заменить их на прямые слэши (типа
C:/Mydir/myfile.txt
).
Кроме того, убедитесь, что после пути к папке photo в вашем варианте стоит слэш; по-моему его там нет.
Кроме того, конструкция
random.choice(os.listdir('photo'))
предполагает, что папка photo находится в папке, которая в данный момент для вашего скрипта основная. Но это может быть неожиданно не папка проекта.
Рекомендую, например, сделать по-другому:
from pathlib import Path
project_dir = Path('C:\\Projects\\telebot_test_functions\\')
photo_dir = project_dir / 'photo'
photo = open(random.choice([*photo_dir.iterdir()]), 'rb')