欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

程序员文章站 2023-08-12 12:15:16
既有的Telegraf 关于MongoDB的输入插件很难实现对副本集节点状态的监控,副本集节点状态有 PRIMARY、SECONDARY、RECOVERYING、ARBITER 等。现在我们尝试通过 Exec Input Plugin 来实现对MongoDB状态的的监控。 第一部分 简单回顾下Zab ......

既有的telegraf 关于mongodb的输入插件很难实现对副本集节点状态的监控,副本集节点状态有 primary、secondary、recoverying、arbiter 等。现在我们尝试通过 exec input plugin 来实现对mongodb状态的的监控。

第一部分 简单回顾下zabbix的监控实现

1. zabbix 执行的文件脚本如下:

#!/bin/bash
command_linebin="mongodb可执行文件路径/bin/mongo"
replstatus="primary secondary arbiter"
username="user"
password="pwd"

command_line="${command_linebin} localhost:$1/admin -u$username -p$password"
mcount=$(/bin/echo "rs.status().members.length" | $command_line --quiet)
if [ $mcount -ge 3 ]  ;then 
   ms1=$(/bin/echo "rs.status().members[0].statestr" | $command_line --quiet)
   ms2=$(/bin/echo "rs.status().members[1].statestr" | $command_line --quiet)
   ms3=$(/bin/echo "rs.status().members[2].statestr" | $command_line --quiet)


  if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]]  && [[ $replstatus =~ $ms3 ]] ;then 
        echo "the status ok "
   else 
         echo "the status of mongo replica is unnormal.port is " $1 
   fi 

else
     ms1=$(/bin/echo "rs.status().members[0].statestr" | $command_line --quiet)
     ms2=$(/bin/echo "rs.status().members[1].statestr" | $command_line --quiet)
    
    if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] ;then
        echo "the status ok "
   else
         echo "the status of mongo replica is unnormal.port is " $1 
   fi


fi

 (文件中的执行输入参数是mongodb的端口号)

2.异常告警界面;

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

第二部分 telegraf 收集代理关于exec插件的实现

1.可执行命名文件为 test_mongodb.sh,具体脚本简化调整

#!/bin/bash
command_linebin="mongodb可执行文件/bin/mongo"
username="user"
replstatus="primary secondary arbiter"
password="pwd"
port=27017

command_line="${command_linebin} localhost:$port/admin -u$username -p$password"
mcount=$(/bin/echo "rs.status().members.length" | $command_line --quiet)
if [ $mcount -ge 3 ]  ;then 
   ms1=$(/bin/echo "rs.status().members[0].statestr" | $command_line --quiet)
   ms2=$(/bin/echo "rs.status().members[1].statestr" | $command_line --quiet)
   ms3=$(/bin/echo "rs.status().members[2].statestr" | $command_line --quiet)


  if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]]  && [[ $replstatus =~ $ms3 ]] ;then 
        echo "replstatus,tag=mongodb status=1i"
   else 
         echo "replstatus,tag=mongodb status=2i" 
   fi 

else
     ms1=$(/bin/echo "rs.status().members[0].statestr" | $command_line --quiet)
     ms2=$(/bin/echo "rs.status().members[1].statestr" | $command_line --quiet)
    
    if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] ;then
        echo "replstatus,tag=mongodb status=1i"
   else
          echo 'replstatus,tag=mongodb status=2i'
  
   fi


fi

 文件所处的路径为  /etc/telegraf/test_mongodb.sh

2. telegraf.conf中关于exec input的配置如下;

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

3. 通过test命令测试,运行正常

 telegraf --config telegraf.conf --test

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

4.启动服务

service telegraf start

5.登入到influxdb下查询验证收集的数据

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

 (以上看似部署完毕,实际.....)

第三部 权限设置问题导致数据错误的分析与探究

仔细看上面的截图数据,问题出来了,明明调试过程中是 status为1,而保存到influxdb中status为2 了呢???

本来集群状态是ok的,结果判断为error!!!! 针对此问题在网上搜索原因及方案,聚焦如下:

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

即怀疑为权限问题。

下面为具体的探究测试过程

step 1 我们从root 账号切换到 telegraf账号

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

但是 切换 不成功。

step 2 查看telegraf账号信息

cat /etc/passwd

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

(/bin/false什么也不做只是返回一个错误状态,然后立即退出。将用户的shell设置为/bin/false,用户会无法登录,并且不会有任何提示。)

step 3 将登入属性设置为 /bin/bash,修改后如下;

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

 step 4 再次 su 为 telegraf账号 ,查询当前连接的账号

 以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

此时切换成功了。

step 5 在 telegraf 账号下,测试 

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

此时 status=2 和我们开始在root 账号下此测试(status=1)是不一样的,也理解了为什么influxdb中数据为2的根源,确实和账号有关。

step 6 调试 telegraf 调用的 test_mongodb.sh 文件

sh -x test_mongodb.sh

部分报错信息如下:

+ ms2='secondary
2019-07-02t20:24:59.596+0800 e -        [main] error saving history file: fileopenfailed: unable to open() file /etc/telegraf/.dbshell: unknown error'
+ [[ primary secondary arbiter =~ primary
2019-07-02t20:24:59.468+0800 e -        [main] error saving history file: fileopenfailed: unable to open() file /etc/telegraf/.dbshell: unknown error ]]
+ echo 'replstatus,tag=mongodb status=2i'
replstatus,tag=mongodb status=2i

从上面的异常信息得知,直接错误原因是 不能在文件 /etc/telegraf/.dbshell 中保存历史数据。

其实在/etc/telegraf 没有看到这个 .dbshell 这个文件。查看显示所有的文件(包含隐藏文件)的 命令如下

ll -a

 那么如果我们手动创建.dbshell呢? 

以下操作是在root账号下创建.dbshell 文件,并且将文件的拥有者调整为telegraf账号,具体的的命令如截图:

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

step 7 再次用telegraf账号运行  test_mongodb.sh 可执行文件

 sh -x test_mongodb.sh 

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

 此时没有出现异常,数据也正常了。

 step 8 在telegraf账号下 用 telegraf 服务调试,此次运行和root账号一样了。

此时没有出现异常,数据也正常了。)

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

 step 9 登入到influxdb中查看,由错误的2恢复了1。

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署 

第四部分 思考优化

(1)为什么root账号不需要手动创建.dbshel? 是不需要这个文件吗?如果需要有在那个目录下呢?

首先了解下 .dbshell 文件,它的基本解释是:“when you run the mongo client, it stores a history of commands in $home/.dbshell.”

从上面的解释可以看出,root账号应该也会产生.dbshell文件。

我们通过以下几步去找到root账号对应的.dbsehll 文件。

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

(2)如何优化telegraf的账号,不再需要手动创建文件?

 推测:是不是给telegraf 账号赋予自身对应$home足够的权限就可以了。

测试如下;

step 1 找到账号对应的$home

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

step 2 删除前面测试创建的.dbshell 文件

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

step 3 执行验证telegraf 测试命令,此时应该数据异常(切记;切换到telegraf 账号下执行)

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

step 4 在root账号将 $home 对应的目录(/etc/telegaf)拥有者转换给telegraf账号

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

step 5 再次执行 telegraf 测试命令

以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

 

以上,测试验证数据给账号相应的$home文档服务相应的权限,也可以解决问题。

第五部分  告警展示

我们在grafana中配置后,其显示界面如下:

 以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

第六部分 补充说明;

1.$home代表的路径是什么?

可以简单的理解为 :home是用户的主目录,登录后缺省进入的目录,提供一个用户专属的启动文件来定义该用户所用到的一些环境变量。

可用命令:

echo $home

 

2.写入influxdb,应遵循以下格式:

<measurement>[,<tag-key>=<tag-value>...] <field-key>=<field-value>[,<field2-key>=<field2-value>...] [unix-nano-timestamp]

如果格式不对,常见的错误如下:

2019-05-02t08:04:13z e! error in plugin [inputs.exec]: metric parse error: expected field at offset 37: "xxxxxxxxxxxxxxxxxxxx\n"

 

本文版权归作者所有,未经作者同意不得转载,谢谢配合!!!

本文版权归作者所有,未经作者同意不得转载,谢谢配合!!!

本文版权归作者所有,未经作者同意不得转载,谢谢配合!!!