Linux Shell+Curl网站健康状态检查脚本，抓出中国博客联盟失联站点

摘要：一开始搭建中国博客联盟，既有博友提醒我，做网址大全这类网站维护很麻烦，需要大量的精力去Debug一些已夭折的网站，更是拿松哥的博客大全举例。...

一开始搭建中国博客联盟，既有博友提醒我，做网址大全这类网站维护很麻烦，需要大量的精力去Debug一些已夭折的网站，更是拿松哥的博客大全举例。当然，我也是深以为然。前些时间，看到梦轩丽人的boke123网址大全的维护记录，好像是纯手工检查，张戈实在是佩服的五体投地，太有毅力了。

现在博客联盟也收录的博客也已破200了，全部来自自主提交，不管你是草博还是名博，张戈不会强买强卖。由于大部分都是建站不过半年的新站，半路放弃、提前太监的博客估计还是有的，于是我决定还是把站点维护这个工作做起来。

上午用PHP做了一个放到了京东云试了下，发现检测速度一般，要等上半天（我写的php太蹩脚，就不献丑了）。

随后，我在VPS上写了一个多线程的网站状态检测脚本，直接从数据库load站点地址，然后用curl去检测返回码，发现速度非常好，基本1分钟内就能出结果

以下是脚本代码：

#!/bin/bash #Author:ZhangGe #Date：2014-08-21 #Desc：Check the site of ZGboke Alliance. #取出网站数据 data=`/usr/bin/mysql -uroot -p123456 -e "use zgboke;select web_url from dir_websites where web_status='3';" -N -B | awk '{print $1}'` if [ -z "$data" ];then echo "Faild to connect database!" exit 1 fi test -f result.log && rm -f result.log function delay { sleep 3 } tmp_fifofile=/tmp/$$.fifo mkfifo $tmp_fifofile exec 6<>$tmp_fifofile rm $tmp_fifofile #定义并发线程数，需根据vps配置进行调整。 thread=100 for ((i=0 ;i<$thread;i++ )) do echo done>&6 #开始多线程循环检测 for url in $data do read -u6 { #curl抓取网站http状态码 code=`curl -o /dev/null --retry 3 --retry-max-time 8 -s -w %{http_code} $url` echo "$code ---> $url">>result.log #判断子线程是否执行成功，并输出结果 delay && { echo "$code ---> $url" } || { echo "Check thread error!" } echo >& 6 }& done #等待所有线程执行完毕 wait exec 6>&- #找出非200返回码的站点 echo List of exception website: cat result.log | grep -v 200 exit 0

Ps：关于shell多线程脚本，后续文章会有一个详细说明，本文篇幅有限，就不多说了。

以下是中国博客联盟第一次成员站点存活检测的结果：

①、非200返回码的异常站点：

Linux Shell+Curl网站健康状态检查脚本，抓出中国博客联盟失联站点1