Существуют несколько подходов:
- Вы создаете питоновский скрипт, который будет загружать сохраненную модель и делать предсказания. А из java запускаете этот питоновский скрипт.
Из недостатков - работает медленно. Каждый раз происходит инициализация всех питоновских библиотек и загрузка самой модели. Подходит, когда делаете предсказания редко на каком-нибудь батче.
- Используете, например, Flask и создаете REST API, которая, используя сохраненную модель, делает предсказания.
Из недостатков, нужно хостить отдельный сервис.
