Какую CI/CD систему выбрать, которая удовлетворяет следующие требования?

По-моему по всем пунктам что гитлаб, что дженкинс подходит. Не совсем понял почему у вас не получается организовать сценарий?

Как синхронизировать правки рабочего кода не перезагружая приложение под docker-compose?

Не понял, в чем проблема? Код можно менять в /srv/docker/redmine/redmine на хосте и он будет доступен в контейнере.

Как настроить отправку почты с портала bitrix?

1. Если нужно отправлять через msmtp, тогда почему в конфиге написано:
sendmail_path sendmail -t -i [e-mail]
Замените на:
sendmail_path msmtp -t -i и укажите в /etc/msmtp доступы к ящику.

2. Скорее всего из CRM письма уходят по крону, т.е. через cli, можно предположить что настройка sendmail_path перезаписывается другим конфигом ниже. Можно попробовать создать /etc/php.d/zz-env.ini и указать в нем нужную отправку.