Цель федерации создать единое хранилище метрик.
Чтобы заработало, так как вы ожидаете и необходимо добавить в конфиг центрального Prometheus, например:
- job_name: federation
    honor_labels: true
    metrics_path: /federate
    params:
      match[]:
        - '{__name__=~"^[^go_].+"}'
    static_configs:
      - targets:
        - remote-prometheus:9090
__name__ это скрытый лейбл в котором храниться имя метрики, таким образом будут собираться все метрики за исключением 
go_ метрик.
В match можно записать и 
- '{job=~".+"}' тогда будут собираться все метрики со всех job и другие выражения.
На целевые Prometheus можно добавить recording rules которые будут создавать агрегированные метрики.