qq:800819103
在线客服,实时响应
qq群
在线客服,实时响应
客服电话
13318873961代理ip如何协助爬虫爬取安居客二手房源信息!今天黑洞代理就为大家分享一下爬虫如何爬取安居客二手房源信息的。主要抓取目标是北京二手房信息,在爬取之前,我们先对要爬取的信息进行简单的数据分析。首先打开二手房信息的页面,右键检查,查找我们需要的信息所在的位置,然后进行抓取。
代码如下:
import requests,time,random
from bs4 import BeautifulSoup
headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.98 Safari/537.36'}
for i in range(1,30):
url='https://beijing.anjuke.com/sale/p{}/'.format(i)
print(i)
#print(url)
respomse=requests.get(url,headers=headers)
time.sleep(random.randint(0,5)) #防止反爬
#print(respomse.text)
soup=BeautifulSoup(respomse.text,'lxml')
house_list = soup.find_all('li', class_="list-item")
for house in house_list:
title=house.find('div',class_='house-title').a.text.strip()
price=house.find('span',class_='price-det').text.strip()
#带增加
print('title:'+title+ ' price: '+price)
通过上述代码,我们就可以获取到安居客北京二手房源信息了,黑洞代理为您提供安全稳定、高效便捷的爬虫代理IP服务,更多问题请点击官网咨询客服。
相关文章内容简介
1 代理ip如何协助爬虫爬取安居客二手房源信息
代理ip如何协助爬虫爬取安居客二手房源信息!今天黑洞代理就为大家分享一下爬虫如何爬取安居客二手房源信息的。主要抓取目标是北京二手房信息,在爬取之前,我们先对要爬取的信息进行简单的数据分析。首先打开二手房信息的页面,右键检查,查找我们需要的信息所在的位置,然后进行抓取。 代码如下: import∵requests,time,random from∵bs4∵imp... [阅读全文]
最新标签
推荐阅读
22
2019-05
怎样才能获得物美价廉的高质量ip代理资源?
如今不只是行业内人员,即使是普通用户对于高质量ip代理资源肯定都不陌生。毕竟如今已随着互联网的发展有很多行业都需要用到高质量ip代理资源。同时在很多普通家庭中,一些用户在日常
28
2019-01
IP地址的a,b,c 类是如何划分的?
在网络通信技术上,每个IP地址都包含2个标识码(ID):互联网ID和主机ID。Internet委员会又各自界定了5种IP地址类型,使互联网技术适应不同容量的网络,那么今日,黑洞代理就带领大伙儿了解
01
2019-06
怎么检测socks5代理IP是否有效
我们知道,socks5代理IP和HTTP代理IP的协议不一样,使用方法也不一样,不能像HTTP代理IP直接在浏览器上工具里的局域网设置就可以生效,而是需要借助第三方软件或者插件来检测使用。
05
2019-04
搭建IP代理池的正确方案
如何让爬虫畅通无阻地高效稳定地夜以继日地永不停息地工作,是无数爬虫工作者梦寐以求的愿望。事实再次证明,世上无难事只怕有心人,只要拥有一个独享IP池,就可以让爬虫再也不怕封IP
热门文章