Как мне кажется лучше пойти по пути меньшего сопротивления и создать два ОМ. Один на замену основному, а второй кастом с autowire-candidate=false.

Да, лишния декларация бина, но читабельнее и без воркараундоа.

предположу, что проблема не в хибернате, а в транзакшн менеджере. транзакции открываются, но не закрываются. session от hibernate тут не при чем.

я бы посоветовал:
а) определить явные границы транзакций
б) подебажить кто открывает и почему не поппдает в закрытии (коммит или роллбак) транзакции

Вероятнее всего парсеры внутри джава приложения используют кодировку по умолчанию.
Как вариант решения можно рассмотреть:
- задать переменные user.language, user.country and user.variant
пример:
java -Duser.language=ru -Duser.country=RU -cp ....
- если исходный код доступен, то я бы убрал использование дефолтных кодировок и явно передавал необходимые кодировки.
- ну и как вариант можно смотреть. переменные окружения при поделючениях.