1、ELK介紹
ELK不是一款軟件，而是elasticsearch+Logstash+kibana三款開源軟件組合而成的日志收集處理套件，堪稱神器。其中Logstash負責日志收集，elasticsearch負責日志的搜索、統(tǒng)計，而kibana則是ES的展示神器，前端炫麗，點幾下鼠標簡單配置，就可以完成搜索、聚合功能，生成華麗的報表。
目前我們的日志方案：
flume負責收集，服務寫日志到文件，flume收集日志文件
flume匯總到數(shù)據(jù)通道kafka，供其他服務消費
日志搜索：從kafka讀取日志寫入到solr cloud提供搜索
日志統(tǒng)計：將kafka的日志寫到hdfs，使用spark、hive來做統(tǒng)計
日志展示：開發(fā)的java-web，讀取數(shù)據(jù)庫生成統(tǒng)計報表
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動安全 [無線安全]玩轉(zhuǎn)無線電——不安全的藍牙鎖 2017-07-26
- 消息隊列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標分割】 2017-07-26
- 詞向量-LRWE模型-更好地識別反義詞同義詞 2017-07-26
- 從棧不平衡問題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動安全 Android端惡意鎖屏勒索應用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來看看(二) 2017-07-26
學習是年輕人改變自己的最好方式