Python爬虫代理池
爬虫代理 IP 池
undefined
1、问题
undefined
- 代理 IP 从何而来?
刚自学爬虫的时候没有代理 IP 就去西刺、快代理之类有免费代理的网站去爬,还是有个别代理能用。当然,如果你有更好的代理接口也可以自己接入。
免费代理的采集也很简单,无非就是:访问页面页面 —> 正则 / xpath 提取 —> 保存
- 如何保证代理质量?
可以肯定免费的代理 IP 大部分都是不能用的,不然别人为什么还提供付费的 (不过事实是很多代理商的付费 IP 也不稳定,也有很多是不能用)。所以采集回来的代理 IP 不能直接使用,可以写检测程序不断的去用这些代理访问一个稳定的网站,看是否可以正常使用。这个过程可以使用多线程或异步的方式,因为检测代理是个很慢的过程。
- 采集回来的代理如何存储?
这里不得不推荐一个高性能支持多种数据结构的 NoSQL 数据库,用于代理 Redis。支持队列、hash、set、k-v 对,支持 T 级别数据。是做分布式爬虫很好中间存储工具。
- 如何让爬虫更简单的使用这些代理?
答案肯定是做成服务咯,python 有这么多的 web 框架,随便拿一个来写个 api 供爬虫调用。这样有很多好处,比如:当爬虫发现代理不能使用可以主动通过 api 去 delete 代理 IP,当爬虫发现代理池 IP 不够用时可以主动去 refresh 代理池。这样比检测程序更加靠谱。
2、代理池设计
代理池由四部分组成:
- ProxyGetter:
代理获取接口,目前有 5 个免费代理源,每调用一次就会抓取这个 5 个网站的最新代理放入 DB,可自行添加额外的代理获取接口;
- DB:
用于存放代理 IP,现在暂时只支持 SSDB。至于为什么选择 SSDB,大家可以参考这篇, 个人觉得 SSDB 是个不错的 Redis 替代方案,如果你没有用过 SSDB,安装起来也很简单,可以参考;
- Schedule:
计划任务用户定时去检测 DB 中的代理可用性,删除不可用的代理。同时也会主动通过 ProxyGetter 去获取最新代理放入 DB;
- ProxyApi:
代理池的外部接口,由于现在这么代理池功能比较简单,花两个小时看了下,愉快的决定用 Flask 搞定。功能是给爬虫提供 get/delete/refresh 等接口,方便爬虫直接使用。
3、代码模块
Python 中高层次的数据结构, 动态类型和动态绑定, 使得它非常适合于快速应用开发, 也适合于作为胶水语言连接已有的软件部件。用 Python 来搞这个代理 IP 池也很简单,代码分为 6 个模块:
- Api:
api 接口相关代码,目前 api 是由 Flask 实现,代码也非常简单。客户端请求传给 Flask,Flask 调用 ProxyManager 中的实现,包括 - get/delete/refresh/get_all
;
- DB:
数据库相关代码,目前数据库是采用 SSDB。代码用工厂模式实现,方便日后扩展其他类型数据库;
- Manager:
- get/delete/refresh/get_all
等接口的具体实现类,目前代理池只负责管理 proxy,日后可能会有更多功能,比如代理和爬虫的绑定,代理和账号的绑定等等;
- ProxyGetter:
代理获取的相关代码,目前抓取了、、、、这个五个网站的免费代理,经测试这个 5 个网站每天更新的可用代理只有六七十个,当然也支持自己扩展代理接口;
- Schedule:
定时任务相关代码,现在只是实现定时去刷新代码,并验证可用代理,采用多进程方式;
- Util:
存放一些公共的模块方法或函数,包含 - GetConfig
: 读取配置文件 config.ini 的类,- ConfigParse
: 集成重写 ConfigParser 的类,使其对大小写敏感, - Singleton
: 实现单例,- LazyProperty
: 实现类属性惰性计算。等等;
- 其他文件:
配置文件: Config.ini, 数据库配置和代理获取接口配置,可以在 GetFreeProxy 中添加新的代理获取方法,并在 Config.ini 中注册即可使用;
4、安装
下载代码:
- git clone git@github.com: jhao104 / proxy_pool.git或者直接到https: //github.com/jhao104/proxy_pool 下载zip文件
安装依赖:
- pip install - r requirements.txt
启动:
- 需要分别启动定时任务和api到Config.ini中配置你的SSDB到Schedule目录下: >>>python ProxyRefreshSchedule.py到Api目录下: >>>python ProxyApi.py
5、使用
定时任务启动后,会通过代理获取方法 fetch 所有代理放入数据库并验证。此后默认每 20 分钟会重复执行一次。定时任务启动大概一两分钟后,便可在 SSDB 中看到刷新出来的可用的代理:
undefined
undefined
启动 ProxyApi.py 后即可在浏览器中使用接口获取代理,一下是浏览器中的截图:
index 页面:
undefined
undefined
get 页面:
get_all 页面:
undefined
爬虫中使用,如果要在爬虫代码中使用的话, 可以将此 api 封装成函数直接使用,例如:
undefined
- import requests def get_proxy() : return requests.get("http://127.0.0.1:5000/get/").content def delete_proxy(proxy) : requests.get("http://127.0.0.1:5000/delete/?proxy={}".format(proxy))#your spider code def spider() : #....requests.get('https://www.example.com', proxies = {
- "http": "http://{}".format(get_proxy)
- })#....
undefined
6、最后
undefined
时间仓促,功能和代码都比较简陋,以后有时间再改进。喜欢的在 github 上给个 star。感谢!
undefined
github 项目地址:https://github.com/jhao104/proxy_pool
undefined
个人博客:http://www.spiderpy.cn/
undefined
来源: http://www.cnblogs.com/jhao/p/6132768.html