Как правильно прокинуть порты в docker-compose?

Question

[ceasar13m]

Я новичок в devOps, если задаю вопрос неверно прошу сильно не ругаться.

В doker-compose файле есть несколько микросервисов, postgres и kafka. Проблема: Микросервисы не видят друг друга и кафку, Наружу торчат только сервис server на порте 8080 и postgres на порте 5432. Как пробросить порты и какой урл нужно указывать в @FeignClient в классе клиента?

docker-compose:

version: '3.8'

volumes:
  pg_market:

services:
  server:
    image: 'server:latest'
    build:
      context: .
    container_name: server
    depends_on:
      - pg_db
    ports:
      - "8080:8080"
    links:
      - pg_db:database
  recommendation:
    image: 'recommendation:latest'
    build:
      context: .
    container_name: recommendation
    depends_on:
      - pg_db
    ports:
      - "8082:8082"
    links:
      - pg_db:database
  pg_db:
    image: postgres
    environment:
      - POSTGRES_PASSWORD=1
      - POSTGRES_USER=postgres
      - POSTGRES_DB=postgres
    volumes:
      - pg_market:/var/lib/postgresql/data
    ports:
      - "5432:5432"
  kafka:
    image: wurstmeister/kafka
    ports:
      - "9092:9092"
    environment:
      KAFKA_ADVERTISED_HOST_NAME: localhost
      KAFKA_CREATE_TOPICS: recommendation
      KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181

И для примера еще application.yaml:

server:
  port: 8082
spring:
  datasource:
    url: jdbc:postgresql://database/postgres
    driver-class-name: org.postgresql.Driver
    username: postgres
    password: 1
kafka:
  bootstrap-servers: localhost:9092
  client-id: local
  auto-commit-interval: 1000
  topic: recomendation

@Component
@FeignClient(name = "market", url = "localhost:8082/api/v1/")
@EnableDiscoveryClient
public interface Client {

}

Answer 1

[ceasar13m]

Нужно было всего лишь добавить "network_mode: host" в docker-compose. После того, как файл принял следующий вид, все заработало:

version: '3.8'

volumes:
  pg_market:

services:
  server:
    image: 'server:latest'
    build:
      context: .
    container_name: server
    depends_on:
      - pg_db
    ports:
      - "8080:8080"
    network_mode: host
    links:
      - pg_db:database
  recommendation:
    image: 'recommendation:latest'
    build:
      context: .
    container_name: recommendation
    depends_on:
      - pg_db
    ports:
      - "8082:8082"
    network_mode: host
    links:
      - pg_db:database
  pg_db:
    image: postgres
    environment:
      - POSTGRES_PASSWORD=1
      - POSTGRES_USER=postgres
      - POSTGRES_DB=postgres
    volumes:
      - pg_market:/var/lib/postgresql/data
    ports:
      - "5432:5432"
    network_mode: host
  kafka:
    image: wurstmeister/kafka
    ports:
      - "9092:9092"
    network_mode: host
    environment:
      KAFKA_ADVERTISED_HOST_NAME: localhost
      KAFKA_CREATE_TOPICS: recommendation
      KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181

Comments

[shurshur]

host network означает "докер вообще для управления сетью не используется", это реально нужно???

[ceasar13m]

shurshur, после добавления этой строки все мои сервисы начали видеть друг-друга по localhost:PORT. Другого решения я пока не нашел

[Вадим]

другое решение через запуск прокси сервера для всех сервисов, через который они и будут общаться

[ceasar13m]

Вадим, можете, пожалуйста, сказать какой вариант является best practice?
Объяснить поподробнее с примерами или подсказать как правильно это гуглить?

[Александр Карабанов]

ceasar13m,

Нужно было всего лишь добавить "network_mode: host"

Таким образом ты выключил изоляцию сети, так себе решение - в продакшене тебе так сделать не дадут.

после добавления этой строки все мои сервисы начали видеть друг-друга по localhost:PORT.

Раньше сервисы на видели друг друга, так как у каждого контейнера свой loopback интерфейс и обращаться из контейнера на loopback интерфейс в надежде подключиться к приложению в другом контейнере бесполезно.

Объяснить поподробнее с примерами или подсказать как правильно это гуглить?

Прочитай мой ответ, пример в нём тоже есть.

[Александр Карабанов]

Вадим,

другое решение через запуск прокси сервера для всех сервисов, через который они и будут общаться

Чушь. В рамках одного compose все контейнеры автоматически будут подключены к одной виртуальной сети (даже если она явно не определена в docker-compose.yml) и могут обращаться друг к другу по имени сервиса.

К примеру у автора описан сервис с названием pg_db вот из приложения размещённого в контейнере recommendation к нему можно будет подключиться по этому имени.

[shurshur]

ceasar13m, надо просто понимать, что приложения в докере больше не запущены "на localhost". У каждого из них свой персональный IP, и ходить друг в друга они должны по сети (можно по именам: в docker есть свой DNS, который понимает названия сервисов в пределах одного compose-проекта).

Можно посмотреть так. Сначала заходим внутрь контейнера:

docker exec -it имя_контейнера bash

Потом смотрим его сеть

ip address
ip route

Обычно там бывают адреса типа 172.18.0.x. Каждый проект по умолчанию получает свою персональную сеть размерности /24.

Список докерных сетей и их параметры смотреть так:

docker network ls
docker network inspect имя_сети

Всегда есть сети bridge (используется по умолчанию для контейнеров, создаваемых командой docker run), host (используется сеть хоста, без сетевой изоляции) и none (драйвер null, если выбрать - контейнер не будет иметь доступа к внешней сети вообще). Кроме сетей типа host/bridge/null, есть и другие, например, macvlan. В конфигурировании сетей в докере можно интересные вещи наворачивать, но для разработчика всё это обычно не нужно.

Вообще, надо понимать, что докер - не какая-то мистическая хрень - а просто инструмент вокруг стандартных для ядра Linux технологий (namespaces и cgroups). При желании можно несложно и сеть "почти по-докерски" соорудить, используя команду ip netns.

[Вадим]

Александр Карабанов,

почему чушь, я работал в такой системе, где один контейнер был прокси сервер - HAPROXY и все контейнеры общались через него, включая внешнюю коммуникацию !

[Александр Карабанов]

Вадим, я не говорил, что так нельзя сделать, я говорю, что в этом нет смысла - контейнеры в рамках одного compose могут беспрепятственно обмениваться данными друг с другом, дополнительные прослойки не нужны.

Answer 2

[Александр Карабанов]

Так как используется docker-compoe сервисы автоматически подключаться к виртуальной сети и смогут обращаться друг к другу по имени сервиса (если нет необходимости обращаться к сервису с хостовой машины или из-за её пределов, то порты можно не пробрасывать).

Например для подключения к kafka в конфиге надо указать:

kafka:
  bootstrap-servers: kafka:9092
  client-id: local
  auto-commit-interval: 1000
  topic: recomendation