20:00:40 От Dmitry : Добрый вечер 20:01:03 От Илья Чиликин : классичекий онлайн состав 20:03:26 От vasiliev-alexey : ++ )) 20:10:04 От Илья Чиликин : + 20:10:06 От vasiliev-alexey : + 20:18:42 От Илья Чиликин : что такое java_line? 20:18:58 От Dmitry : На примере приложение на Golang - логи в json, но fatal в multiline можно скомбинировать 2 кодека? 20:20:12 От Dmitry : Но в докере/kubernetes best practice в stdout логи слать 20:21:06 От Dmitry : Ок, спасибо 20:23:23 От Илья Чиликин : Как быть, если сервис пишет лог в файл с именем по текущей дате? "/logs/2020-09-04.log", то есть имя файла всё время меняется. 20:23:53 От Илья Чиликин : а как отличить регекспом 2020-09-04.log от 2020-09-03.log? 20:28:56 От Илья Чиликин : пробел - знак переноса строки? 20:29:37 От Илья Чиликин : я понимаю, что это " at … " ) 20:29:58 От Илья Чиликин : Но это сломается, если я решил в лог написать что-диюл с переносом строки. 20:30:03 От Илья Чиликин : что-либо * 20:31:22 От Илья Чиликин : а что за символ + в ${+yyyy. ? 20:32:44 От Илья Чиликин : index => 20:33:28 От Dmitry : Это от date. Например date +%d.%m.%Y--%X 20:35:58 От Илья Чиликин : Посмотрел в свои конфиги - даты тоже о знаком +yyyy. Видимо, когда-то я это знал. :) 20:38:35 От Dmitry : Что такое opendistro? 20:40:02 От Илья Чиликин : С x-pack как-то всё мутно написано - он полностью платный или есть бесплатные части? 20:40:25 От Илья Чиликин : mutate 20:43:43 От Илья Чиликин : Если у нас грок зафейлится, то этот mutate удалит message и мы останемся ни с чем? 20:44:20 От Илья Чиликин : Да, а потом remove_field удалит весь message. 20:44:27 От Илья Чиликин : ^ ? 20:45:08 От Илья Чиликин : Это будет tag _grok_parse_fail , примерно так. 20:46:00 От Илья Чиликин : Я уже полгода назад это всё настраивал, ничего не помнится. :( 20:47:12 От Илья Чиликин : Как следить за grok_parse_fail'ами? Писать в отдельный индекс?.. Как это обычно решается? 20:48:19 От Илья Чиликин : Глазами - может увидим, может не увидим - как это автоматизировать? 20:49:11 От Илья Чиликин : Нет, это понятно, я имею в виду уведомление сотрудника. 20:49:25 От Илья Чиликин : Давайте сделаем? 20:50:01 От vasiliev-alexey : ага 20:50:35 От Илья Чиликин : Мне кажется, чтобы не возится с email, можно по условию наличия тега grok_parse_fail писать в отдельный индекс в том же elastic... 20:51:51 От Илья Чиликин : У date лишняя закрывающая скобка } , вроде. 20:52:15 От Илья Чиликин : Ага, вижу. Без отступов непонятно. 20:55:52 От Илья Чиликин : + 20:59:52 От Илья Чиликин : Поясните, пожалуйста, это ведь не json. 21:00:30 От Илья Чиликин : Json parse error 21:01:54 От Илья Чиликин : {"word": "TEST", "int": 1234, "ip": "10.10.10.0"} 21:02:55 От Илья Чиликин : Вы как-то странно написали Зачем там message вообще? 21:05:22 От Dmitry : email) 21:05:23 От Илья Чиликин : - 21:05:26 От Илья Чиликин : email ) 21:10:49 От Илья Чиликин : Поле tag 21:13:07 От Илья Чиликин : Надеемся, что там же настроен почтовый аккаунт? 21:18:59 От Илья Чиликин : Видимо, в filters после grok имеет смысл удалять оригинальный message, если распарсилось удачно? Например, так: if "_grokparsefailure" not in [tags] { mutate => {remove_field => ["message"] }} 21:23:13 От Илья Чиликин : Вот поэтому я предлагал не в email слать. ) 21:23:44 От Илья Чиликин : Как раз предлагал в другой индекс. 21:25:56 От Илья Чиликин : браузер видно 21:29:38 От Илья Чиликин : перезапустить logstash? 21:38:36 От Илья Чиликин : Можете посоветовать, как сделать дедупликацию лог-месседжей? Есть довольно плохо написанный java-фреймворк. В случае внутренней ошибки чуть ли не каждый класс в стеке пишет в лог и пробрасывает exception дальше. Итого с одной реальной ошибки в лог приходит порядка семи почти одинаковых записей (отличаются стектрейсом). 21:39:00 От Илья Чиликин : Вы, вроде, с java знакомы. 21:39:43 От Илья Чиликин : Сложность в том, что строка не одинаковая, а почти одинаковая... 21:40:08 От Илья Чиликин : Можно голосом? 21:44:12 От Илья Чиликин : Спасибо, посмотрели на всю боль. 21:44:13 От Илья Чиликин : =) 21:44:50 От Logstash : https://otus.ru/polls/12061/ 21:45:53 От Илья Чиликин : Единственный способ разделить конфиг на отдельные файлы - это отдельные логстеши? 21:46:39 От Илья Чиликин : Да, можно отдельные пайплайны... 21:49:38 От Илья Чиликин : Про отдельные файлы с паттернами понятно, я имел в виду разные фильтры на разные type. Пожалуй, это решается отдельными пайплайнами. 21:52:06 От Илья Чиликин : Спасибо 21:52:15 От vasiliev-alexey : спасибо