首页 > 代码库 > 实战:用Hyperic HQ 诊断网站无法访问问题
实战:用Hyperic HQ 诊断网站无法访问问题
问题描述
一直采用Hyperic HQ CRP监控 两个网站:
www.GoodU.info : “如是我闻”,记录每天不经意间看到的一些好文章,排版简洁,易于阅读,“你永远不知道下一篇是什么类型的文章。”
www.wongjingwingchun.com: “黄祯咏春会”,一个以咏春拳会友的的网站,由黄祯咏春传人免费教习,这里做个广告,欢迎参与。
周末休闲中,突然收到报警邮件,监控的网站无法访问。!!! ? ? ?
环境描述
采用的基本上是主流技术。
Centos6, 64bit,; Apache Httpd 2.2.15, MySQL 5.1.x ; Drupal;
在该服务器上安装了 HQ Agent 5.8;
分析过程
下面的图片是事后,恢复后的截屏,请着重看中间红点时间段部分:
打开监控的工具 http://demo.innovatedigital.com:7080/
CPU使用率和负载,在事发前出现异动,快速增加。
内存交换区,空闲内存和交换区使用大小,快速增加。这里,考虑到linux的内存管理机制,关注的是Free Memory(+buffers/cache), 而不是 Used Memory(变化不大). 很可能是某程序突然占用了大量的内存。
再看httpd , 每分钟的字节吞吐量和请求量,没有明显变化。
Busy Servers 和 Busy Workers 有所增长,但是 Keepalive 没有明显变化。问题的原因可能与Http 关系不大。
还需观察数据库,mysql, 其进程cpu使用率没有变化,内存有所减低,估计是其他进程用了大量内存,对mysql有所挤压,释放了一些内存。slow query数量有所增加。
那么是哪个进程突然占用了过多的内存和CPU? 请看,每个时间点采集的 top 结果,大量的rdp,这是什么?从来没有安装过,是rdesktop 还是 。。。? 在问题发生前几个时间点,有这些现象,再之前,并没有。
登录到该主机,发现在 /root/下 有 一个 .rdp 目录,里面的文件,包含了很多存放常用密码的文件。是被黑了? 哪位大虾有兴趣,可留言索取。
分析secure 日志,摘取几行如下:
Aug 30 16:04:05 www sshd[1842]: Failed password for root from 111.74.238.167 port 1237 ssh2 。。。。。。 Aug 30 16:39:46 www sshd[2432]: Failed password for root from 202.109.143.35 port 4421 ssh2 。。。。。。 Aug 30 17:01:44 www sshd[2756]: Failed password for root from 117.21.173.175 port 2182 ssh2 。。。。。。 Aug 30 22:10:29 www sshd[5437]: Failed password for root from 222.186.34.36 port 3580 ssh2 。。。。。。
查一查哪里的IP?
111.74.238.167,202.109.143.35,117.21.173.175 江西省吉安市 电信; 222.186.34.36 江苏省镇江市 电信
难道不是山东的南翔技校?
初步结论
根据上面的情况,很可能是主机密码被猜到,从而象上面几个地址一样被利用。
措施
首先是修改密码,关闭ssh登录,采用vnc。
为了能够更早发现网站无法访问的问题,在HQ 中定义了一个服务,轮询某个特定的网页,根据返回时间和返回的数据判断是否发生了问题。具体如下:
定义一个http service , 名为 goodu.info 连接测试, 具体参数:主机名 www.goodu.info; 端口: 80; 超时时间:10秒;PATH: /gc/; method: GET; pattern: 如是我闻; Follow redirect: yes; 意思是 定期访问http://www.goodu.info/gc 如果返回的页面中有 “如是我闻”四个字,就认为是正常的。
然后,再定义一些报警等。 网站恢复后,请看一些图:
Mysql 运行状态:
主机运行状态:
留言
拜托各位黑客大虾对小站手下留情;
恳请各位高手指点 rdp 是什么? 希望得出更多结论.
http://hq.innovatedigital.com
本文出自 “HypericHQ应用监控” 博客,请务必保留此出处http://hyperichq.blog.51cto.com/1250795/1547718
实战:用Hyperic HQ 诊断网站无法访问问题