Fluentd部署：错误排查

介绍一下排查Fluentd运行时错误的几种方法。

1. 查看日志
   
   如果感觉Fluentd运行异常，请先查看日志。td-agent安装后，默认日志存放在/var/log/td-agent/td-agent.log。

2. 开启详细日志
   
   Fluentd日志支持多个级别，打开详细的日志有助于发现问题。有以下几种方法可以开启详细日志：
   
   2.1 通过配置文件的log_level项进行设置，具体可参考Fluentd日志。
   
   2.2 使用systemd用户级文件
   
   添加或修改配置文件/etc/systemd/system/td-agent，
   
   增加如下内容，这会覆盖/usr/lib/systemd/system/td-agent中的配置。

[Service]
ExecStart=...existing options... -vv

2.3 修改init.d启动脚本

编辑/etc/init.d/td-agent，在TD_AGENT_OPTIONS后增加"-vv"，重启td-agent

# at /etc/init.d/td-agent
...
TD_AGENT_OPTIONS="... -vv"
...

2.4 命令行参数

$ fluentd .. -vv

3. 导出fluentd内部信息
Fluentd使用sigdump（https://github.com/frsyuki/sigdump）将内部信息导出到本地文件中，可向fluentd进程发送SIGCONT信号以导出相关信息。

4. CPU使用率较高的原因

若发现Fluentd占用较高的CPU，一般可能有以下几点原因：

- 某个插件发生竞态问题
- 正则表达式错误
- 系统调用异常，比如inotify监控了过多的文件
- 某个ruby依赖包异常

出现这些情况时，可使用linux perf工具来检测问题所在。也可使用pid2line.rb（https://gist.github.com/nurse/0619b6af90df140508c2）这个脚本来辅助排查。

5. 检查未捕获的日志
有时候会遇到一些异常退出的情况，这时程序返回值非0。比如：

2016-01-01 00:00:00 +0800 [info]: starting fluentd-0.12.28

2016-01-01 00:00:00 +0800 [info]: reading config file path="/etc/td-agent/td-agent.conf"

[...snip...]

2016-01-01 00:00:02 +0800 [info]: process finished code=6

这类问题可能发生在ruby内部，比如段错误、某些C扩展有bug等。当fluentd以守护进程方式运行时，我们将得不到完整的日志。

使用如下方式运行td-agent，就可以在程序异常时获取到完整的日志。

$ sudo LD_PRELOAD=/opt/td-agent/lib/libjemalloc.so /usr/sbin/td-agent -c /etc/td-agent/td-agent.conf --user td-agent --group td-agent