@den4eg11

Существует ли фреймворк для обработки логов?

Существует ли фреймворк для обработки логов/текста? Допустим, на сервере идёт логирование, каждый день сохраняется в отдельный файл, сохраняются данные о нике, айпи игрока, других параметрах через определенный разделитель. Иногда нужно проанализировать, под какими никами игрок заходил с определенного айпи, в какой день и прочее. Сейчас это реализовывается за счёт прямого открытия каждого log файла и поиска данных. Хотелось бы найти фреймворк на пхп, который помог бы написать считывание новых логов, добавление в базу данных, поиск по параметрам. Как понимаю, это будет анализ + скрипт по крону, который будет скачивать и обрабатывать данные. С пхп поверхностно знаком.

Апд:
Попробую на всякий случай объяснить суть.
Мое решение будет заключаться в 2 частях, других вариантов не вижу:
Лог импорт: по крону скачивает новые логи по фтп, читает их, заносит информацию в базу данных ( в моём случае, MySQL)
Лог анализатор: веб интерфейс, который позволяет искать по параметрам, сортировать

Допустим, у меня в файле 15022015log есть такие строки:
17:33:08 |nick |99.199.999.9
17:33:08 |nick2 |99.199.999.9
17:33:08 |nick |11.111.111.1

Первый скрипт по крону проверяет, есть ли на фтп новые логи, есть ли в последнем логе новые строчки, в случае успеха, импортирует в бд например 17:33:08, nick, 99.199.999.9 в отдельные столбцы

Второй скрипт уже для веб интерфейса сортирует данные, дает возможности для поиска по параметру (по совпадению параметров) и т.д.

Возможно, есть уже готовые решения или специализированный фреймворк по первой и второй части. Чтобы можно было просто настроить импорт информации с логов, указав разделитель и готовое решение для вывода и сортировки информации, которое можно было бы дописать, исходя из индивидуальных потребностей
  • Вопрос задан
  • 2703 просмотра
Пригласить эксперта
Ответы на вопрос 3
@aleks_raiden
Можно использовать и мощные системы типа www.elasticsearch.org/overview/kibana
Ответ написан
MintTea
@MintTea
Смотрели на monolog?
Под него написано множество хэндлеров, в т.ч. можете написать свой.
Также можно логировать напрямую в базу данных.
Ответ написан
index0h
@index0h
PHP, Golang. https://github.com/index0h
Как парсерку логов можете использовать logstash, очень удобная штука. Обычно используется в связке с ElasticSearch и Kibana

В принципе под ваш кейс еще посмотрите в сторону StatsD + Graphite И в сторону influxdb
Ответ написан
Комментировать
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы