准备工作
a. 若你的环境中没有 selenium 模块, 直接使用 pip 安装即可.
pip install selenium
b. 打开谷歌浏览器, 检查 Chrome 的版本: 在浏览器地址中输入 Chrome://settings/help 回车即可看到.
image
c. 打开 ChromeDriver 的官方网站:
寻找与你当前浏览器版本相对应的 ChromeDriver 下载.
image
d. 选择你自己的操作系统类型进行下载即可.
image
e. 以 Windows 为例, 下载结束后, 将 ChromeDriver 放置在 python 安装目录下的 Scripts 文件夹即可.
image
准备工作完成, 代码写起来吧~
迷你爬虫的实现
我们这次的目标是爬取热门歌单, 比如网易云音乐中播放量大于 1000 万的歌单信息 (歌单名称, 链接).
a. 我们先来打开网易云的歌单第一页:
b. 使用 Chrome 的开发者工具 < F12 > 进行分析.
image
我们想要拿的信息全在这里:
msk, 封面 [mask]: 有歌单的名称及链接
nb, 播放数 [number broadcast]:135 万
c. 我们还需要遍历所有的页, 使用工具继续分析, 找到 "下一页" 的 URL.
image
d. 切换至最后一页, 拿到最后一页的 URL.
image
e. 等我们爬取完所有符合的歌单信息后, 将其保存在本地.
f. 全部工作结束, 最后再通过下面的伪代码回顾下整体思路.
image
g. 爬取的效果如下:
image
总结
本文旨在安抚你因情人节受伤的小心灵, 同时带你入个爬虫的门, 感受下 python 的强大.
小编最近整理了一套 Python 学习教程, 有需要的小伙伴, 记得来小编的交流群: 556370268, 即可免费领取一套 Python 学习教程哦
来源: http://www.jianshu.com/p/fddb9f4523e6