Случайно удалось найти решение. Видимо по каким-то там причинам установленная локаль не прописывалась в файлы конфигурации. Правильный докер файл
FROM python:3.11.0
# Set the working directory
WORKDIR /usr/src/app
# Copy the application files
COPY ./files/ ./
# Install Russian locales
RUN apt-get update && \
apt-get install -y locales && \
echo "ru_RU.UTF-8 UTF-8" >> /etc/locale.gen && \
locale-gen && \
update-locale LANG=ru_RU.UTF-8
ENV LANG=ru_RU.UTF-8 \
LANGUAGE=ru_RU:ru \
LC_ALL=ru_RU.UTF-8
# Install Python dependencies
RUN pip install -r req.txt