在公司做分布式深网爬虫,搭建了一套稳定的代理池服务,为上千个爬虫提供有效的代理,保证各个爬虫拿到的都是对应网站有效的代理 IP,从而保证爬虫快速稳定的运行,所以就想利用一些免费的资源搞一个简单的代理池服务。
Python 是一种面向对象、解释型计算机程序设计语言,由 Guido van Rossum 于 1989 年底发明,第一个公开发行版发行于 1991 年。Python 语法简洁而清晰,具有丰富和强大的类库。它常被昵称为胶水语言,它能够把用其他语言制作的各种模块(尤其是 C/C++)很轻松地联结在一起。
在公司做分布式深网爬虫,搭建了一套稳定的代理池服务,为上千个爬虫提供有效的代理,保证各个爬虫拿到的都是对应网站有效的代理 IP,从而保证爬虫快速稳定的运行,当然在公司做的东西不能开源出来。不过呢,闲暇时间手痒,所以就想利用一些免费的资源搞一个简单的代理池服务。
1、问题
代理 IP 从何而来?
刚自学爬虫的时候没有代理 IP 就去西刺、快代理之类有免费代理的网站去爬,还是有个别代理能用。当然,如果你有更好的代理接口也可以自己接入。 免费代理的采集也很简单,无非就是:访问页面页面 —> 正则 / xpath 提取 —> 保存
如何保证代理质量?
可以肯定免费的代理 IP 大部分都是不能用的,不然别人为什么还提供付费的 (不过事实是很多代理商的付费 IP 也不稳定,也有很多是不能用)。所以采集回来的代理 IP 不能直接使用,可以写检测程序不断的去用这些代理访问一个稳定的网站,看是否可以正常使用。这个过程可以使用多线程或异步的方式,因为检测代理是个很慢的过程。
采集回来的代理如何存储?
这里不得不推荐一个高性能支持多种数据结构的 NoSQL 数据库 {aa9aa},用于代理 Redis。支持队列、hash、set、k-v 对,支持 T 级别数据。是做分布式爬虫很好中间存储工具。
如何让爬虫更简单的使用这些代理?
答案肯定是做成服务咯,python 有这么多的 web 框架,随便拿一个来写个 api 供爬虫调用。这样有很多好处,比如:当爬虫发现代理不能使用可以主动通过 api 去 delete 代理 IP,当爬虫发现代理池 IP 不够用时可以主动去 refresh 代理池。这样比检测程序更加靠谱。
2、代理池设计
代理池由四部分组成:
ProxyGetter:
代理获取接口,目前有 5 个免费代理源,每调用一次就会抓取这个 5 个网站的最新代理放入 DB,可自行添加额外的代理获取接口;
DB:
用于存放代理 IP,现在暂时只支持 SSDB。至于为什么选择 SSDB,大家可以参考这篇 {aa8aa}, 个人觉得 SSDB 是个不错的 Redis 替代方案,如果你没有用过 SSDB,安装起来也很简单,可以参考 {aa7aa};
Schedule:
计划任务用户定时去检测 DB 中的代理可用性,删除不可用的代理。同时也会主动通过 ProxyGetter 去获取最新代理放入 DB;
ProxyApi:
代理池的外部接口,由于现在这么代理池功能比较简单,花两个小时看了下 {aa6aa},愉快的决定用 Flask 搞定。功能是给爬虫提供 get/delete/refresh 等接口,方便爬虫直接使用。
[html_REMOVED] 设计
3、代码模块
Python 中高层次的数据结构, 动态类型和动态绑定, 使得它非常适合于快速应用开发, 也适合于作为胶水语言连接已有的软件部件。用 Python 来搞这个代理 IP 池也很简单,代码分为 6 个模块:
Api: api 接口相关代码,目前 api 是由 Flask 实现,代码也非常简单。客户端请求传给 Flask,Flask 调用 ProxyManager 中的实现,包括
;
- get/delete/refresh/get_all
DB: 数据库相关代码,目前数据库是采用 SSDB。代码用工厂模式实现,方便日后扩展其他类型数据库;
Manager:
等接口的具体实现类,目前代理池只负责管理 proxy,日后可能会有更多功能,比如代理和爬虫的绑定,代理和账号的绑定等等;
- get/delete/refresh/get_all
ProxyGetter: 代理获取的相关代码,目前抓取了 {aa5aa}、{aa4aa}、{aa3aa}、{aa2aa}、{aa1aa} 这个五个网站的免费代理,经测试这个 5 个网站每天更新的可用代理只有六七十个,当然也支持自己扩展代理接口;
Schedule: 定时任务相关代码,现在只是实现定时去刷新代码,并验证可用代理,采用多进程方式;
Util: 存放一些公共的模块方法或函数,包含
: 读取配置文件 config.ini 的类,
- GetConfig
: 集成重写
- ConfigParse
的类,使其对大小写敏感,
- ConfigParser
: 实现单例,
- Singleton
: 实现类属性惰性计算。等等;
- LazyProperty
其他文件: 配置文件: Config.ini, 数据库配置和代理获取接口配置,可以在 GetFreeProxy 中添加新的代理获取方法,并在 Config.ini 中注册即可使用;
4、安装
下载代码:
- git clone git@github.com:jhao104/proxy_pool.git
- 或者直接到https://github.com/jhao104/proxy_pool 下载zip文件
安装依赖:
- pip install -r requirements.txt
启动:
- 需要分别启动定时任务和api
- 到Config.ini中配置你的SSDB
- 到Schedule目录下:
- >>>python ProxyRefreshSchedule.py
- 到Api目录下:
- >>>python ProxyApi.py
5、使用
定时任务启动后,会通过代理获取方法 fetch 所有代理放入数据库并验证。此后默认每 20 分钟会重复执行一次。定时任务启动大概一两分钟后,便可在 SSDB 中看到刷新出来的可用的代理:
启动 ProxyApi.py 后即可在浏览器中使用接口获取代理,一下是浏览器中的截图:
index 页面:
get 页面:
get_all 页面:
爬虫中使用,如果要在爬虫代码中使用的话, 可以将此 api 封装成函数直接使用,例如:
- import requests
- def get_proxy():
- return requests.get("http://127.0.0.1:5000/get/").content
- def delete_proxy(proxy):
- requests.get("http://127.0.0.1:5000/delete/?proxy={}".format(proxy))
- # your spider code
- def spider():
- # ....
- requests.get('https://www.example.com', proxies={"http": "http://{}".format(get_proxy)})
- # ....
6、最后
时间仓促,功能和代码都比较简陋,以后有时间再改进。喜欢的在 github 上给个 star。感谢!
项目地址:{aa0aa}
来源: http://www.phperz.com/article/17/0317/319048.html