手机
当前位置:查字典教程网 >脚本专栏 >python >python正则匹配抓取豆瓣电影链接和评论代码分享
python正则匹配抓取豆瓣电影链接和评论代码分享
摘要:复制代码代码如下:importurllib.requestimportreimporttimedefmovie(movieTag):tagU...

复制代码 代码如下:

import urllib.request

import re

import time

def movie(movieTag):

tagUrl=urllib.request.urlopen(url)

tagUrl_read = tagUrl.read().decode('utf-8')

return tagUrl_read

def subject(tagUrl_read):

'''

这里还存在问题:

①这只针对单独的一页进行排序,而没有对全部页面的电影进行排序

②下次更新添加电影链接,考虑添加电影海报

③需要追加列表

④导入到本地txt或excel中

⑤在匹配电影名字时是否可以同时匹配链接与名字、评分、评论组成数组

'''

#正则表达式匹配电影的名字(链接)、评分与评论

nameURL = re.findall(r'(http://movie.douban.com/subject/[0-9.]+)/"s+title="(.+)"',tagUrl_read)

scoreURL = re.findall(r'<spans+class="rating_nums">([0-9.]+)</span>',tagUrl_read)

evaluateURL = re.findall(r'<spans+class="pl">((w+)人评价)</span>',tagUrl_read)

movieLists = list(zip(nameURL,scoreURL,evaluateURL))

newlist.extend(movieLists)

return newlist

#用quote处理特殊(中文)字符

movie_type = urllib.request.quote(input('请输入电影类型(如剧情、喜剧、悬疑):'))

page_end=int(input('请输入搜索结束时的页码:'))

num_end=page_end*20

num=0

page_num=1

newlist=[]

while num<num_end:

url=r'http://movie.douban.com/tag/%s?start=%d'%(movie_type,num)

movie_url = movie(url)

subject_url=subject(movie_url)

num=page_num*20

page_num+=1

else:

#使用sorted函数对列表进行排列,reverse参数为True时升序,默认或False时为降序, key=lambda还不是很明白这里的原理

movieLIST = sorted(newlist, key=lambda movieList : movieList[1],reverse = True)

for movie in movieLIST:

print(movie)

time.sleep(3)

print('结束')

【python正则匹配抓取豆瓣电影链接和评论代码分享】相关文章:

python单链表实现代码实例

python 图片验证码代码分享

python发送邮件接收邮件示例分享

Python中的并发编程实例

Python写的Socks5协议代理服务器

python文件比较示例分享

python查找第k小元素代码分享

python发送邮件的实例代码(支持html、图片、附件)

python正则匹配查询港澳通行证办理进度示例分享

python聊天程序实例代码分享

精品推荐
分类导航