Для Prometheus есть несколько систем для долговременного хранения данных. Самая простая в поддержке VictoriaMetrics
https://github.com/VictoriaMetrics/VictoriaMetrics
https://github.com/thanos-io/thanos
https://github.com/grafana/mimir
Выбирайте любую
