qq:800819103
在线客服,实时响应
qq群
在线客服,实时响应
客服电话
13318873961代理IP常见问题的解决方案!(1) 代理使用失败
让对方截图看看代理IP代码,代理信息是否提取配置正确。重点注意必须使用代理域名,不能是代理服务器IP。
要求对方复制demo,然后加上ua随机优化,按照所开代理的请求数,按照300毫秒为单位进行管理,运行程序后统计错误信息和http的状态码。
代理链接失败
原因:对方是否有防火墙,导致无法链接我们服务器;对方开的代理是否过期。
http状态码407
原因:代理认证信息失败,让对方严格按照demo配置代理信息
http状态码429
原因:请求超过代理限制,严格按照所开代理的请求数,按照300毫秒为单位进行管理。如果限制之后,既然大量429,需要优化爬虫策略,应该是目标网站返回的错误提示。
http状态码302
原因:访问的是https网站,会自动跳转一次,正常现象;访问的http网站,网站拒绝服务,大量302需要优化爬虫策略
http状态码403或504
原因:少量不影响,大量403或504需要优化爬虫策略
http请求超时
原因:http请求的超时设置为10秒,尤其是对方访问国外网站的时候。
(2) 没法确认代理是否使用
要求对方直接复制demo,访问http://httpbin.org/ip,看看返回的IP,如果是我们的代理IP,就表示代理链接成功
(3) 爬虫代理使用成功,请求失败率较高
统计错误信息和http的状态码,将200和各自错误信息进行统计,看看比例分布,参考第(1)项里面的http状态码进行解答。
相关文章内容简介
1 代理IP常见问题的解决方案
代理IP常见问题的解决方案!(1)∵代理使用失败 让对方截图看看代理IP代码,代理信息是否提取配置正确。重点注意必须使用代理域名,不能是代理服务器IP。 要求对方复制demo,然后加上ua随机优化,按照所开代理的请求数,按照300毫秒为单位进行管理,运行程序后统计错误信息和http的状态码。 代理链接失败 原因:对方是否有防火墙,导... [阅读全文]
最新标签
推荐阅读
30
2019-05
php如何验证代理ip?
说到代理IP,经常使用网络的人都知道,代理IP在我们的生活工作中应用很广泛,那么HTTP代理IP验证呢?我们为什么需要对代理IP进行验证呢?是因为我们在网络中抓取到的代理IP数量很大,但是使
28
2018-11
外媒:亚马逊推出云计算服务器芯片,降低对英特尔的依赖
近日,据外媒报道,亚马逊正式推出了ARM架构的服务器处理器。这款处理器是由亚马逊子公司Annapurna实验室研制的,支持定制化,将主要应用在亚马逊的云服务器上。
31
2019-05
网络爬虫如何用代理IP?
Python爬虫层出不穷,所有网站都利用反爬虫制度,限制大批爬虫的浏览,因此Python爬虫必须利用代理IP实现破解限制,才可以顺利的爬取到数据。那么网络爬虫如何使用代理IP,在使用代理IP过
02
2018-11
问答推广怎么做有效果
大家有疑问的时候通常是选择在浏览器上搜索答案,百度问答作为一个大平台,问答的排名是非常靠前的,因此想做网络营销,问答是少不了要做的,那么问答推广怎么做有效果?
热门文章