当前位置:Gxlcms > Python > 实例详解Python实现简单网页图片抓取

实例详解Python实现简单网页图片抓取

时间:2021-07-01 10:21:17 帮助过:67人阅读

本文主要介绍了Python实现简单网页图片抓取完整代码实例,具有一定借鉴价值,需要的朋友可以参考下。

利用python抓取网络图片的步骤是:
1、根据给定的网址获取网页源代码
2、利用正则表达式把源代码中的图片地址过滤出来
3、根据过滤出来的图片地址下载网络图片

以下是比较简单的一个抓取某一个百度贴吧网页的图片的实现:


  1. # -*- coding: utf-8 -*-
  2. # feimengjuan
  3. import re
  4. import urllib
  5. import urllib2
  6. #抓取网页图片
  7. #根据给定的网址来获取网页详细信息,得到的html就是网页的源代码
  8. def getHtml(url):
  9. page = urllib.urlopen(url)
  10. html = page.read()
  11. return html
  12. def getImg(html):
  13. #利用正则表达式把源代码中的图片地址过滤出来
  14. reg = r'src="(.+?\.jpg)" pic_ext'
  15. imgre = re.compile(reg)
  16. imglist = imgre.findall(html) #表示在整个网页中过滤出所有图片的地址,放在imglist中
  17. x = 0
  18. for imgurl in imglist:
  19. urllib.urlretrieve(imgurl,'%s.jpg' %x) #打开imglist中保存的图片网址,并下载图片保存在本地
  20. x = x + 1
  21. html = getHtml("http://tieba.baidu.com/p/2460150866")#获取该网址网页详细信息,得到的html就是网页的源代码
  22. getImg(html)#从网页源代码中分析并下载保存图片

进一步对代码进行了整理,在本地创建了一个“图片”文件夹来保存图片


  1. # -*- coding: utf-8 -*-
  2. # feimengjuan
  3. import re
  4. import urllib
  5. import urllib2
  6. import os
  7. #抓取网页图片
  8. #根据给定的网址来获取网页详细信息,得到的html就是网页的源代码
  9. def getHtml(url):
  10. page = urllib.urlopen(url)
  11. html = page.read()
  12. return html
  13. #创建保存图片的文件夹
  14. def mkdir(path):
  15. path = path.strip()
  16. # 判断路径是否存在
  17. # 存在 True
  18. # 不存在 Flase
  19. isExists = os.path.exists(path)
  20. if not isExists:
  21. print u'新建了名字叫做',path,u'的文件夹'
  22. # 创建目录操作函数
  23. os.makedirs(path)
  24. return True
  25. else:
  26. # 如果目录存在则不创建,并提示目录已经存在
  27. print u'名为',path,u'的文件夹已经创建成功'
  28. return False
  29. # 输入文件名,保存多张图片
  30. def saveImages(imglist,name):
  31. number = 1
  32. for imageURL in imglist:
  33. splitPath = imageURL.split('.')
  34. fTail = splitPath.pop()
  35. if len(fTail) > 3:
  36. fTail = 'jpg'
  37. fileName = name + "/" + str(number) + "." + fTail
  38. # 对于每张图片地址,进行保存
  39. try:
  40. u = urllib2.urlopen(imageURL)
  41. data = u.read()
  42. f = open(fileName,'wb+')
  43. f.write(data)
  44. print u'正在保存的一张图片为',fileName
  45. f.close()
  46. except urllib2.URLError as e:
  47. print (e.reason)
  48. number += 1
  49. #获取网页中所有图片的地址
  50. def getAllImg(html):
  51. #利用正则表达式把源代码中的图片地址过滤出来
  52. reg = r'src="(.+?\.jpg)" pic_ext'
  53. imgre = re.compile(reg)
  54. imglist = imgre.findall(html) #表示在整个网页中过滤出所有图片的地址,放在imglist中
  55. return imglist
  56. #创建本地保存文件夹,并下载保存图片
  57. if __name__ == '__main__':
  58. html = getHtml("http://tieba.baidu.com/p/2460150866")#获取该网址网页详细信息,得到的html就是网页的源代码
  59. path = u'图片'
  60. mkdir(path) #创建本地文件夹
  61. imglist = getAllImg(html) #获取图片的地址列表
  62. saveImages(imglist,path) # 保存图片

结果在“图片”文件夹下保存了几十张图片,如截图:

相关推荐:

PHP简单网页图片抓取类

如何把这里的图片抓取到本地

PHP+Ajax远程图片抓取器下载的例子

以上就是实例详解Python实现简单网页图片抓取的详细内容,更多请关注Gxl网其它相关文章!

人气教程排行