您的位置：首页 > 新闻资讯 > 正文

如何获取免费的代理IP？爬虫设置代理IP方法【图文介绍】

发布时间：2018-12-20 11:48:27 来源：互联网

许多人都想使用免费的代理IP，毕竟是不花钱的，但是吧，大家都对免费的代理IP可以率还是要心里有数的。因此即使想不花钱，现实也不允许，对于需要使用爬虫爬取数据的人来说，时间远比购买代理IP花费更贵。那么都是哪些人在用免费代理IP呢？

一般是进行营销推广等一些需要少量IP的人群，还有初学爬虫的人，那么如何获取免费的代理IP呢？当获得免费代理IP后，爬虫设置代理IP方法又是怎样的呢？

一、如何获取免费的代理IP

1.找到几个提供免费IP代理的网站，获取IP数据源。

2.验证对应的IP代理访问出口IP是否跟本机的出口IP一致，得到不一致的IP代理列表。

3.根据你要访问的网站,过滤掉无效的代理IP。因为并不是所有的代理都能用，可能的原因是我们所处的网络连不到这个代理，或者这个代理连不到我们的目标网址，所以我们踢除无效代理。

4.根据自身的实验目的验证IP代理的响应速度，进行排序，择优选用。

二、爬虫设置代理IP方法

1.使用Python3，先导入urllib的request，然后调用ProxyHandler，它可以接收代理IP的参数。

2.把IP地址以字典的形式放入其中，设置代理类型，IP地址，以及端口。比如：

3.用build_opener()来构建一个opener对象。

4.调用构建好的opener对象里面的open方法来发生请求。实际上urlopen也是类似这样使用内部定义好的opener.open()，这里就相当于我们自己重写。

5.如果我们使用install_opener()，就可以把之前自定义的opener设置成全局的。

6.设置成全局之后，再使用urlopen来发送请求，这样发送请求使用的IP地址就是代理IP，而不是本机的IP地址了。

注意，如果使用代理遇到错误，并提示目标计算机积极拒绝，无法连接，这就说明可能是代理IP无效，或者端口号错误，需要更换有效的代理IP。

以上就是爬虫设置代理IP的方法，图文介绍比较清晰，设置并不难，对于使用Python爬虫的人来说，这可以说是基本工，但也是必须要会的。因为爬虫采集数据，通常都会遇到IP限制的问题，而在保证速度的情况下，使用代理IP是目前最有效的方法。

黑洞代理