Как запустить filebeat внутри Docker контейнера?

Question

[gubber]

Добрый день.
Подскажите, как запустить filebeat внутри docker контейнера.

Начинал вот с такого Dockerfile

FROM tomcat:8.5
RUN rm -Rf /usr/local/tomcat/webapps/ROOT/*
RUN mkdir /usr/local/tomcat/webapps-my

COPY filebeat/ /opt/filebeat/
RUN chmod +x /opt/filebeat/filebeat

COPY db-creator.jar /opt/db-creator/

COPY ./docker-entrypoint.sh /
RUN chmod +x /docker-entrypoint.sh
ENTRYPOINT ["/docker-entrypoint.sh"]
ENTRYPOINT ["/opt/filebeat/filebeat", "-e", "-c", "/opt/filebeat/filebeat.yml"]
COPY server.xml /usr/local/tomcat/conf
COPY my.war /usr/local/tomcat/webapps-my/ROOT.war

CMD ["catalina.sh", "run"]

В таком состоянии filebeat запускается но не отпускает контроль, после чего не стартует томкат

Сейчас дошёл до такого варианта

FROM tomcat:8.5
RUN curl -L -O https://artifacts.elastic.co/downloads/beats/fileb...
RUN dpkg -i filebeat-5.2.2-amd64.deb
COPY filebeat.yml /etc/filebeat
RUN update-rc.d filebeat defaults 95 10

COPY db-creator.jar /opt/db-creator/
COPY ./docker-entrypoint.sh /
RUN chmod +x /docker-entrypoint.sh
ENTRYPOINT ["/docker-entrypoint.sh"]

RUN rm -Rf /usr/local/tomcat/webapps/ROOT/*
COPY server.xml /usr/local/tomcat/conf
RUN mkdir /usr/local/tomcat/webapps-my
COPY my.war /usr/local/tomcat/webapps-iqp/ROOT.war

CMD ["catalina.sh", "run"]

Но так не стартует сервис.

Были и промежуточные варианты в виде

CMD ["/etc/init.d/filebeat", "start"]

Всё равно не стартует

Answer 1

[Tyranron]

По умолчанию предполагается, что в одном контейнере бежит всего один процесс. Если Вам нужно более одного процесса - либо разносите по отдельным контейнерам (Tomcat отдельно, Filebeat отдельно), либо добавляйте в контейнер какой-то супервизор, который будет курировать несколько процессов и смотреть дабы они не падали. Для Docker образов обычно используют s6 супервизор, который можно удобно использовать через s6-overlay.

Comments

[gubber]

Мне надо из томката логи передавать в другой контейнер.

[Tyranron]

Расшарьте директорию с логами в обоих контейнерах, если речь о логах в файлах.

[gubber]

Не считаю это нормальным вариантом. В данном случае filebeat это часть моего приложения. И если мне надо сделать 10 контейнеров, у которых надо смотреть за логами, то надо ещё десять filebeat контейнеров разворачивать?
А если один, то при добавлении нового контейнера мне надо будет перезапускать filebeat. Не вариант.
Есть же контейнер, который запускает весь ELK в одном контейнере. Да нарушение принципов, но одно другому не мешает.

[Tyranron]

gubber: Не будьте так категоричны.

Все зависит от конкретного container runtime. Например в Kubernetes есть понятие Pod. Pod - это связка контейнеров которые являют собою экземпляр приложения. У них единый жизненный цикл, единая сеть, если кто-то умирает - перезапускается весь Pod. Располагая подобным инструментом удобнее держать отдельные процессы в отдельных контейнерах, потому что можно тонко настроить ресурсы выделяемые тому или иному процессу, отдельно смотреть логи каждого контейнера, и т.д. Часто даже достаточно просто компоновать связку из уже существующих официальных образов, полностью минуя шаг построения своего образа.

Если же Вам удобнее в Вашем случае запаковать все в один контейнер, то ничего страшного в этом тоже нет. Только здесь уже появляется необходимость использовать какой-то супервизор, что само по себе не являет грехом, а всего лишь необходимой мерой.

[gubber]

Tyranron: Наличие супервизера так же кажется излишним. Мне же по факту всего на всего надо стартовать две команды. Точнее три. Две стартовали (db-creator и tomcat) а третья почему то нет.
В итоге я нашёл решение о нём ниже.

[Tyranron]

gubber: если у Вас более одного долгоживущего процесса в контейнере, Вам нужны гарантии что они живы и бегут. Можно просто позапускать вторичные процессы в background через &, но что будете делать когда какой-то процесс по-тихому упадет?

[gubber]

Tyranron: в данном случае по тихому не получиться. Т.к. пропадут логи. Это во-первых.
А во-вторых это вопоос равгосилен тому. А что вы будете делать, если в вашем приложении грохнется один из фоновых процессов?
Принимая во внимание вспомогательность сбора и анализа логов плюс увеличение сложности на старте проекта. Пока остановлюсь на таком решении. Если в рамках публичных альфа и бетта тестирований выявятся проблемы - будем решать.
И да, спасибо за идею создать аппендер для log4j котрый будет сам в логстеш всё кидать )

[Tyranron]

gubber: ну, я такой идеи не предлагал, это Вы уже себе спасибо скажите, что пришло в голову =) Зато я подкину Вам идею не создавать этот аппендер, а сначала поискать готовый. Java мир, по-моему, и славится тем, что там есть всё на каждый чих.

Что касается фоновых процессов, то я всегда обрабатываю ситуации, когда они отваливаются, иначе доверия к корректности/стабильности работы приложения нету. Касательно "по тихому не получится, так как пропадут логи" - это понятно, но вопрос в том, когда это будет обнаружено, и когда поправлено, и как это скажется на бизнесе. Супервизор же просто перезапустит процесс, и все дальше будет работать корректно, а о случившемся Вы узнаете уже в результате анализа логов/алертинга, а не внезапно в 3 часа ночи с потребностью спросонья лезть в терминал и рестартовать сервис.

Если Ваш бизнес допускает подобные ситуации - нет проблем. В конечном итоге принятие решения за Вами. Да и Вы его уже приняли. Я лишь делюсь собственным кровавым опытом, и объясняю почему он именно такой, не более.

Answer 2

[gubber]

В итоге, пришлось делать обходным путём:
создать start.sh

#!/bin/bash

OUTPUT_LOGFILES=""

service filebeat start

OUTPUT_LOGFILES+="/var/log/filebeat/filebeat "

cd /usr/local/tomcat/

bin/catalina.sh start

OUTPUT_LOGFILES+="/usr/local/tomcat/logs/catalina*.log"

touch $OUTPUT_LOGFILES
tail -f $OUTPUT_LOGFILES &
wait

И конечный Dockerfile выглядит следующим образом

FROM tomcat:8.5
RUN curl -L -O https://artifacts.elastic.co/downloads/beats/fileb...
RUN dpkg -i filebeat-5.2.2-amd64.deb
COPY filebeat.yml /etc/filebeat
COPY ./start.sh /
RUN chmod +x /start.sh

COPY db-creator.jar /opt/db-creator/
COPY ./docker-entrypoint.sh /
RUN chmod +x /docker-entrypoint.sh
ENTRYPOINT ["/docker-entrypoint.sh"]

RUN rm -Rf /usr/local/tomcat/webapps/ROOT/*
COPY server.xml /usr/local/tomcat/conf
RUN mkdir /usr/local/tomcat/webapps-my
COPY my.war /usr/local/tomcat/webapps-my/ROOT.war

CMD ["/start.sh"]

С ним лишь одна проблема - не захватывает логи томката. Но это потому что не умею "готовить кошек".