手机
当前位置:查字典教程网 >脚本专栏 >python >Python实现抓取网页并且解析的实例
Python实现抓取网页并且解析的实例
摘要:本文以实例形式讲述了Python实现抓取网页并解析的功能。主要解析问答与百度的首页。分享给大家供大家参考之用。主要功能代码如下:#!/usr...

本文以实例形式讲述了Python实现抓取网页并解析的功能。主要解析问答与百度的首页。分享给大家供大家参考之用。

主要功能代码如下:

#!/usr/bin/python #coding=utf-8 import sys import re import urllib2 from urllib import urlencode from urllib import quote import time maxline = 2000 wenda = re.compile("href="http://wenda.so.com/q/.+") baidu = re.compile("<a href="http://www.baidu.com/link".*?>更多知道相关问题.*") f1 = open("baidupage.txt","w") f2 = open("wendapage.txt","w") for line in sys.stdin: if maxline == 0: break query = line.strip(); time.sleep(1); recall_url = "http://www.so.com/s" + query; response = urllib2.urlopen(recall_url); html = response.read(); f1.write(html) m = wenda.search(html); if m: if m.group(1) == "110": print query + "twendat0"; else: print query + "twendat1"; else: print query + "twendat0"; recall_url = "http://www.baidu.com/s"&ie=utf-8"; response = urllib2.urlopen(recall_url); html = response.read(); f2.write(html) m = baidu.search(html); if m: print query + "tbaidut1"; else: print query + "tbaidut0"; maxline = maxline - 1; f1.close() f2.close()

希望本文所述对大家Python程序设计的学习有所帮助。

【Python实现抓取网页并且解析的实例】相关文章:

Python修改Excel数据的实例代码

python实现排序算法

python 实现文件的递归拷贝实现代码

python使用PyFetion来发送短信的例子

python 自动提交和抓取网页

python通过urllib2爬网页上种子下载示例

python监控网卡流量并使用graphite绘图的示例

python实现的一个p2p文件传输实例

python实现的二叉树算法和kmp算法实例

使用python实现扫描端口示例

精品推荐
分类导航