Агрегация логов

[oxy]

Кто то сталкивался с таким? Что используем, где храним, какие подводные камни?

 

[Bayer]

Агрегация логов с нескольких серверов средставами log4j

log4j широкоизвестная библиотека логирования, нашедшая своё применение во многих проектах. Её возможности не ограничиваются «добавлением строчек в лог-файлы». На базе log4j можно организовать сложную...

habr.com

 

[oxy]

Не, log4j не даст мне нужной гибкости. Допустим у меня есть 20 разных серваков и мне нужно слить логи воедино (логи nginx, системные, базы данных и самих приложух что вертятся внутри) и что то уже с ними делать.
Для этого есть связка ELK или fluentd. Так же есть beats, fluentbit, graylog, logging in docker/k8s.. Вот есть ли у кого то опыт работы с чем то подобным

PS docker {container} logs это можно не предлагать, там есть логгирование на уровне ноды. Но интересны как раз подводные камни в виде плохой доки, жадности к ресурсам, не надежности и т.д.

Короче нужен ответ в стиле "я использую logstash + elastic + kibana" по тому то, и меня зае*ло что джава отжирает 80% оперативы...

 

[oxy]

Посмотреть вложение 2925

Агрегация логов с нескольких серверов средставами log4j

log4j широкоизвестная библиотека логирования, нашедшая своё применение во многих проектах. Её возможности не ограничиваются «добавлением строчек в лог-файлы». На базе log4j можно организовать сложную...

habr.com

1) Если сервер ляжет что тогда? Есть ли гарантия доставки логов?
2) Если мне нужно читать логи с контейнера, а не стучаться к нему по http? Я не хочу тянуть джаву в контейнер где крутится один не большой GO скрипт
3) Если контейнеров много, в каждом по 10 логов, которые постоянно пополняются (допустим access логи), может ли оно стакать? И как долго оно проживет?
4) Фильтрация и распарсивание? Например с acces лога мне нужно понять на какой машине начали прилетать ошибки 500 и каких клиентов это задело?

Короче тут не просто нужно слить все в одну помойку. Тут нужно что то, что поможет с этими логами нормально работать

 

[oxy]

Вот кто там кричал что на форуме не поднимается интересных вопросов? Вот вам... Только проблема в том, что я на 90% уверен что это последний ответ в этой теме ведь многие тут только и сталкивались что с бк и пхп 5.5)))

 

[Insallah]

А какие логи? Когда-то на заре баловался набросом логов в базу sqlite и потом имея на руках базу визуализировал как хотел.

1) Если сервер ляжет что тогда? Есть ли гарантия доставки логов?
2) Если мне нужно читать логи с контейнера, а не стучаться к нему по http? Я не хочу тянуть джаву в контейнер где крутится один не большой GO скрипт
3) Если контейнеров много, в каждом по 10 логов, которые постоянно пополняются (допустим access логи), может ли оно стакать? И как долго оно проживет?
4) Фильтрация и распарсивание? Например с acces лога мне нужно понять на какой машине начали прилетать ошибки 500 и каких клиентов это задело?

Кейс узкоспециализированный. В таких масштабах не знаю не сталкивался. Но всякие народные штуки врозе заббикса\нагиоса не закрывают вопрос?

 

[oxy]

А какие логи?

Ну начнем с access и какого нибудь slow_query...
Да посмотри любое упоминание стека ELK) Интересны именно подводные камни

> Для этого есть связка ELK или fluentd. Так же есть beats, fluentbit, graylog, logging in docker/k8s..
Ну и тут не стоит честно говоря вопрос о использовани чего то другого

 

[oxy]

заббикса\нагиоса

Где то слышал что он прям очень тяжелый. А это вот некая альтернатива prometheus + node exporter

 

[Bayer]

Фильтрация и распарсивание? Например с acces лога мне нужно понять на какой машине начали прилетать ошибки 500 и каких клиентов это задело?

Подключаешь анализатор логов и вроде как все

 

[oxy]

Подключаешь анализатор логов и вроде как все

А можно подробней? А то звучало так: набросаешь нейросеть там на коленке с нуля)))

Просто анализатор логов в вышеприведенном стеке и был logstash + fluentd + elastic. Другими словами это 66% всей связки. А от тебя это звучит как что то маленькое легковесное и подключаемое одной командой)))))

 

[Bayer]

Просто анализатор логов в вышеприведенном стеке и был logstash

накинь к нему rabbitmq. Логи в json. Для визуализации Kibana. Для поиска Elasticsearch

 

[oxy]

накинь к нему rabbitmq

Какой смысл?

Логи в json

Это же logstash и делает в поле фильтров

Кто то сталкивался с таким? Что используем, где храним, какие подводные камни?

Напомню свой вопрос) А о ELK стаке я практически сразу написал...

 

[Bayer]

Какой смысл?


Это же logstash и делает в поле фильтров


Напомню свой вопрос) А о ELK стаке я практически сразу написал...

Так а что тебе тогда надо? Я просто не так силён в этом вопросе, но вроде получается что имеющиеся ресурсы покрывают проблему. Логи получаем, логи сортируем, логи читаем.

 

[Insallah]

Да посмотри любое упоминание стека ELK)

Смотрел, но нечего сказать, так как у меня не прижилось и опыта боевого использования на проде нету.

Так а что тебе тогда надо? Я просто не так силён в этом вопросе, но вроде получается что имеющиеся ресурсы покрывают проблему.

Ему надо пользовательский опыт. И яркие проблемы в эксплуатации. Либо явное указание их отсутвия.