
qq:800819103
在线客服,实时响应
qq群
在线客服,实时响应
客服电话
13318873961爬虫如何爬取京东上的手机图片?今天黑洞代理ip就为大家分享一下爬虫是如何爬取京东上的手机图片的。首先我们先打开京东,输入要爬取的商品,比如手机。然后分析页面和网址,查看我们要爬取的信息位置和网址的变化。
代码如下:
import re
import urllib.request
def craw(url,page):
#获取网页源代码
html1 = urllib.request.urlopen(url).read()
html1 = str(html1)
#对网页源码进行过滤,只保留和产品列表相关的信息
pat1 = '<div id="plist".+?
'
result1 = re.compile(pat1).findall(html1)
result1 = result1[0]
#print(result1)
#再次过滤,提取网页中图片的链接,并将链接地址存储在列表中
pat2 = ''
imagelist = re.compile(pat2).findall(result1)
x = 1
#遍历列表,将链接存储到本地
for imageurl in imagelist:
imagename = "D:/jd/img1/" + str(page) + str(x) + ".jpg"
imageurl = "http://" + imageurl
try:
urllib.request.urlretrieve(imageurl,filename=imagename)
except urllib.error.URLError as e:
if hasattr(e,"code"):
x+=1
if hasattr(e,"reason"):
x+=1
x+=1
#通过for循环,将该分类下的所有网页都爬取一遍
for i in range(1,88):
url = "https://list.jd.com/list.html?cat=9987,653,655&page="+str(i)
craw(url,i)
以上就是关于爬虫如何爬取京东上的手机图片的介绍了,黑洞代理ip可为您提供海量IP资源,助您不间断获取行业数据,赢在大数据时代!
相关文章内容简介
1 爬虫如何爬取京东上的手机图片?
爬虫如何爬取京东上的手机图片?今天黑洞代理ip就为大家分享一下爬虫是如何爬取京东上的手机图片的。首先我们先打开京东,输入要爬取的商品,比如手机。然后分析页面和网址,查看我们要爬取的信息位置和网址的变化。 代码如下: import∵re import∵urllib.request def∵craw(url,page): #获取网页源代码 html1∵=∵urllib.request.urlopen(url).rea... [阅读全文]
最新标签
推荐阅读
14
2019-03
测试IP代理有效性的方法汇总
我们使用IP代理,通常是选择使用付费的IP代理,因为免费的IP代理其有效性太低了,而且使用之前需要先检测IP的有效性,那么这IP代理有效性如何检测呢?下面小编为大家介绍下关于测试IP代理
14
2019-02
哪有好用的代理IP?千万级IP池--黑洞代理
现在消费升级,付费模式的消费逐渐流行,大部分的消费都愿意买单,享受更快捷、更优质的服务。如今已经很少人愿意自己花大量的时间去收集那些免费的IP,还需要去检测是否有效,反而是
04
2019-07
怎么使用免费高速http代理ip
HTTP代理IP是最普遍的一种代理形式,能够代理客户机的HTTP访问,例如我们平时上网浏览页面使用的都是HTTP协议。如果你的业务是在浏览器操作,那么HTTP代理IP在适合不过。
30
2019-01
手机电脑使用代理是否安全?
现在很多的软件都会获取个人的一些信息,这代理软件会不会也获取我们的个人信息呢?比如,我们使用代理去获取数据,在这当中,会不会记录了我们的账号密码呢?我们的手机电脑使用代理
热门文章