时间:2021-07-01 10:21:17 帮助过:117人阅读
抓取的是电影天堂里面最新电影的页面。链接地址: http://www.dytt8.net/html/gndy/dyzz/index.html
获取页面的中电影详情页链接
import urllib2 import os import re import string # 电影URL集合 movieUrls = [] # 获取电影列表 def queryMovieList(): url = 'http://www.dytt8.net/html/gndy/dyzz/index.html' conent = urllib2.urlopen(url) conent = conent.read() conent = conent.decode('gb2312','ignore').encode('utf-8','ignore') pattern = re.compile (''+ 'https://img.gxlcms.com/(.*?).*?>
',re.S) items = re.findall(pattern,conent) str = ''.join(items) pattern = re.compile ('https://img.gxlcms.com/(.*?).*? https://img.gxlcms.com/(.*?) ',re.S) news = re.findall(pattern, str) for j in news: movieUrls.append('http://www.dytt8.net'+j[0])
抓取详情页中的电影数据
def queryMovieInfo(movieUrls): for index, item in enumerate(movieUrls): print('电影URL: ' + item) conent = urllib2.urlopen(item) conent = conent.read() conent = conent.decode('gb2312','ignore').encode('utf-8','ignore') movieName = re.findall(r'', conent, re.S) if (len(movieName) > 0): movieName = movieName[0] + "" # 截取名称 movieName = movieName[movieName.find("《") + 3:movieName.find("》")] else: movieName = "" print("电影名称: " + movieName.strip()) movieContent = re.findall(r'https://img.gxlcms.com/(.*?)
https://img.gxlcms.com/(.*?)',conent , re.S) pattern = re.compile('https://img.gxlcms.com/(.*?)
', re.S) movieDate = re.findall(pattern,movieContent[0]) if (len(movieDate) > 0): movieDate = movieDate[0].strip() + '' else: movieDate = "" print("电影发布时间: " + movieDate[-10:]) pattern = re.compile('
https://img.gxlcms.com/(.*?)
0): movieInfo = movieInfo[0]+'' # 删除
标签 movieInfo = movieInfo.replace("
","") # 根据 ◎ 符号拆分 movieInfo = movieInfo.split('◎') else: movieInfo = "" print("电影基础信息: ") for item in movieInfo: print(item) # 电影海报 pattern = re.compile('', re.S) movieImg = re.findall(pattern,movieContent[0]) if (len(movieImg) > 0): movieImg = movieImg[0] else: movieImg = "" print("电影海报: " + movieImg) pattern = re.compile(' .*? ', re.S) movieDownUrl = re.findall(pattern,movieContent[0]) if (len(movieDownUrl) > 0): movieDownUrl = movieDownUrl[0] else: movieDownUrl = "" print("电影下载地址:" + movieDownUrl + "") print("------------------------------------------------\n\n\n")执行抓取
if __name__=='__main__': print("开始抓取电影数据"); queryMovieList() print(len(movieUrls)) queryMovieInfo(movieUrls) print("结束抓取电影数据")总结
学好正则表达式很重要,很重要,很重要!!!! Python的语法好有感觉, 对比Java …
人气教程排行
- 384次 1 对Python2.7pandas中的read_excel详解
- 383次 2 Python实现定时弹窗提醒
- 383次 3 python爬虫入门(3)--利用requests构建知乎API
- 382次 4 python如何爬取搜狗微信公众号文章永久链接的思路解析
- 381次 5 python字典的键可以相同吗
- 381次 6 python是一种面向什么的语言?
- 381次 7 python通过pil为png图片填充上背景颜色的方法
- 380次 8 python语言的编程模式有什么
- 380次 9 使用python获取进程pid号的方法
- 380次 10 Python中如何解决无限循环的问题
- 378次 11 怎么解决pip不是内部或外部命令
- 378次 12 python中def是什么意思
- 376次 13 对numpy中数组元素的统一赋值实例
- 374次 14 python的选择语句是什么语句
- 374次 15 Python中构造方法的解析(附示例)
- 373次 16 关于python中引入导入与自定义模块以及外部文件的实例分享
- 372次 17 python如何在不同类之间调用方法
- 372次 18 python中的【//】是什么运算符号
- 371次 19 python中╲t是什么
- 371次 20 python同时给多个变量赋值