qq:800819103
在线客服,实时响应
qq群
在线客服,实时响应
客服电话
13318873961代理ip如何协助爬虫爬取安居客二手房源信息!今天黑洞代理就为大家分享一下爬虫如何爬取安居客二手房源信息的。主要抓取目标是北京二手房信息,在爬取之前,我们先对要爬取的信息进行简单的数据分析。首先打开二手房信息的页面,右键检查,查找我们需要的信息所在的位置,然后进行抓取。
代码如下:
import requests,time,random
from bs4 import BeautifulSoup
headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.98 Safari/537.36'}
for i in range(1,30):
url='https://beijing.anjuke.com/sale/p{}/'.format(i)
print(i)
#print(url)
respomse=requests.get(url,headers=headers)
time.sleep(random.randint(0,5)) #防止反爬
#print(respomse.text)
soup=BeautifulSoup(respomse.text,'lxml')
house_list = soup.find_all('li', class_="list-item")
for house in house_list:
title=house.find('div',class_='house-title').a.text.strip()
price=house.find('span',class_='price-det').text.strip()
#带增加
print('title:'+title+ ' price: '+price)
通过上述代码,我们就可以获取到安居客北京二手房源信息了,黑洞代理为您提供安全稳定、高效便捷的爬虫代理IP服务,更多问题请点击官网咨询客服。
相关文章内容简介
1 代理ip如何协助爬虫爬取安居客二手房源信息
代理ip如何协助爬虫爬取安居客二手房源信息!今天黑洞代理就为大家分享一下爬虫如何爬取安居客二手房源信息的。主要抓取目标是北京二手房信息,在爬取之前,我们先对要爬取的信息进行简单的数据分析。首先打开二手房信息的页面,右键检查,查找我们需要的信息所在的位置,然后进行抓取。 代码如下: import∵requests,time,random from∵bs4∵imp... [阅读全文]
最新标签
推荐阅读
05
2018-11
换IP地址有什么用?能否突破电信限制
换IP地址有什么用?IP资源是有限的,每个上网的机器都有一个唯一的IP地址,如果多人同时使用一个IP地址,会导致IP冲突,上不了网。虽然一个IP不能多机器使用,但是通过换IP软件...
01
2019-01
交换机如何解决IP地址冲突?
怎样避免IP地址发生冲突系统故障?这个在具体项目中常常会碰到,互联网用户要是依照规范设定IP地址的话,IP地址发生冲突现象就不可避免,一旦这类状况经常发生,不仅会影响上网效率,
28
2018-09
ip代理地址怎么设置?四步教会你 !
我们在上网浏览过程中,有时候会遇到浏览器提示网页无法显示的情况,出现这种情况有时候是因为本地服务器堵塞造成的,这时候我们可以进行浏览器代理设置 。
23
2019-05
代理ip如何使用
我们在网上的时候,有时候会需要http代理ip,比如我们在网页上注册账号的时候,需要用到这个,因为我们有时候要注册多个账号,这个时候就需要用到ip代理技术。我们在上网的时候,有时候
热门文章