关于 error_log 聚合

› NGINX

在线学习资源

› NGINX 开发从入门到精通

NGINX Modules

› ngx_echo

This topic created in 4935 days ago, the information mentioned may be changed or developed.

如果想把很多 nginx web server 上的 error_log 聚合到一个地方进行分析，现在有什么比较好的方案么？

6 replies • 1970-01-01 08:00:00 +08:00

glancesx

May 3, 2013

flume/flume_ng+hdfs，数据量大就hadoop跑MR

terry

May 4, 2013

最近正在看 logstash + HDFS / Hadoop 可以往这个方向看一下。

fire9

May 4, 2013

error_log会很多么？应该是access_log吧。

fay

May 4, 2013

看看这个文档，或许有启发：http://loggly.com/support/sending-data/logging-from/platform-logs/unix/

Loggly这个服务本身有点贵（对我而言）。关键词是rsyslog日志服务，可以搜下rsyslog + nginx。

linlinqi

May 4, 2013

简单点可以试试 xtail + scribe

git://github.com/facebook/scribe.git

或者给nginx打个支持pipe log的patch，再配合scribe

daxingplay

May 5, 2013

对这个问题我也挺困扰的。
logstash吧，感觉他的界面有些乱，不太容易分析
loggly这个online的服务，我试用了一下，感觉挺耗服务器资源的，而且分析的结果不是很准。
我还用过log.io，nodejs写的，不太适合分析很大的数据，而且不能保存已经看过的，只能看当前的。