本文永久链接:
译者: https://github.com/haiyang-tju
校对者: https://github.com/TrWestdoor
Python 是一个很棒的语言. 它是世界上发展最快的编程语言之一. 它一次又一次地证明了在开发人员职位中和跨行业的数据科学职位中的实用性. 整个 Python 及其库的生态系统使它成为全世界用户 (初学者和高级用户) 的合适选择. 它的成功和流行的原因之一是它强大的第三方库的集合, 这些库使它可以保持活力和高效.
在本文中, 我们会研究一些用于数据科学任务的 Python 库, 而不是常见的比如 panda,scikit-learn 和 matplotlib 等的库. 尽管像 panda 和 scikit-learn 这样的库, 是在机器学习任务中经常出现的, 但是了解这个领域中的其它 Python 产品总是很有好处的.
Wget https://pypi.org/project/wget/
从网络上提取数据是数据科学家的重要任务之一. Wget 是一个免费的实用程序, 可以用于从网络上下载非交互式的文件. 它支持 HTTP,HTTPS 和 FTP 协议, 以及通过 HTTP 的代理进行文件检索. 由于它是非交互式的, 即使用户没有登录, 它也可以在后台工作. 所以下次当你想要下载一个网站或者一个页面上的所有图片时, wget 可以帮助你.
安装:
$ pip install wget
例子:
- import wget
- url = 'http://www.futurecrew.com/skaven/song_files/mp3/razorback.mp3'
- filename = wget.download(url)
- 100% [................................................] 3841532 / 3841532
- filename
- 'razorback.mp3'
Pendulum https://github.com/sdispater/pendulum
对于那些在 python 中处理日期时间时会感到沮丧的人来说, Pendulum 很适合你. 它是一个简化日期时间操作的 Python 包. 它是 Python 原生类的简易替代. 请参阅文档 https://pendulum.eustace.io/docs/#installation 深入学习.
安装:
$ pip install pendulum
例子:
- import pendulum
- dt_toronto = pendulum.datetime(2012, 1, 1, tz='America/Toronto')
- dt_vancouver = pendulum.datetime(2012, 1, 1, tz='America/Vancouver')
- print(dt_vancouver.diff(dt_toronto).in_hours())
- 3
可以看出, 当每个类的样本数量基本相同时, 大多数分类算法的效果是最好的, 即需要保持数据平衡. 但现实案例中大多是不平衡的数据集, 这些数据集对机器学习算法的学习阶段和后续预测都有很大影响. 幸运的是, 这个库就是用来解决此问题的. 它与 http://scikit-learn.org/stable/ 兼容, 是 https://github.com/scikit-lear-contrib 项目的一部分. 下次当你遇到不平衡的数据集时, 请尝试使用它.
安装:
- pip install -U imbalanced-learn
- # 或者
- conda install -c conda-forge imbalanced-learn
例子:
使用方法和例子请参考文档 http://imbalanced-learn.org/en/stable/api.html .
FlashText https://github.com/vi3k6i5/flashtext
在 NLP 任务中, 清理文本数据往往需要替换句子中的关键字或从句子中提取关键字. 通常, 这种操作可以使用正则表达式来完成, 但是如果要搜索的术语数量达到数千个, 这就会变得很麻烦. Python 的 FlashText 模块是基于 FlashText 算法 https://arxiv.org/abs/1711.00046 为这种情况提供了一个合适的替代方案. FlashText 最棒的一点是, 不管搜索词的数量如何, 运行时间都是相同的. 你可以在这里 https://flashtext.readthedocs.io/en/latest/# 了解更多内容.
安装:
$ pip install flashtext
例子:
提取关键字
- from flashtext import KeywordProcessor
- keyword_processor = KeywordProcessor()
- # keyword_processor.add_keyword(<unclean name>, <standardised name>)
- keyword_processor.add_keyword('Big Apple', 'New York')
- keyword_processor.add_keyword('Bay Area')
- keywords_found = keyword_processor.extract_keywords('I love Big Apple and Bay Area.')
- keywords_found
- ['New York', 'Bay Area']
替换关键字
- keyword_processor.add_keyword('New Delhi', 'NCR region')
- new_sentence = keyword_processor.replace_keywords('I love Big Apple and new delhi.')
- new_sentence
- 'I love New York and NCR region.'
更多实用案例, 请参考官方文档.
Fuzzywuzzy https://github.com/seatgeek/fuzzywuzzy
这个库的名字听起来很奇怪, 但是在字符串匹配方面, fuzzywuzzy 是一个非常有用的库. 可以很方便地实现计算字符串匹配度, 令牌匹配度等操作, 也可以很方便地匹配保存在不同数据库中的记录.
安装:
$ pip install fuzzywuzzy
例子:
- from fuzzywuzzy import fuzz
- from fuzzywuzzy import process
- # 简单匹配度
- fuzz.ratio("this is a test", "this is a test!")
- 97
- # 模糊匹配度
- fuzz.partial_ratio("this is a test", "this is a test!")
- 100
更多有趣例子可以在 GitHub 仓库 https://github.com/seatgeek/fuzzywuzzy 找到.
PyFlux https://github.com/RJT1990/pyflux
时间序列分析是机器学习领域中最常见的问题之一. PyFlux 是 Python 中的一个开源库, 它是为处理时间序列问题而构建的. 该库拥有一系列优秀的现代时间序列模型, 包括但不限于 ARIMA,GARCH 和 VAR 模型. 简而言之, PyFlux 为时间序列建模提供了一种概率方法. 值得尝试一下.
安装
pip install pyflux
例子
详细用法和例子请参考官方文档 https://pyflux.readthedocs.io/en/latest/index.html .
Ipyvolume https://github.com/maartenbreddels/ipyvolume
结果展示也是数据科学中的一个重要方面. 能够将结果进行可视化将具有很大优势. IPyvolume 是一个可以在 Jupyter notebook 中可视化三维体和图形 (例如三维散点图等) 的 Python 库, 并且只需要少量配置. 但它目前还是 1.0 之前的版本阶段. 用一个比较恰当的比喻来解释就是: IPyvolume 的 volshow 对于三维数组就像 matplotlib 的 imshow 对于二维数组一样好用. 可以在这里获取更多.
使用 pip
$ pip install ipyvolume
使用 Conda/Anaconda
$ conda install -c conda-forge ipyvolume
例子
动画
体绘制
Dash https://github.com/plotly/dash
Dash 是一个高效的用于构建 web 应用程序的 Python 框架. 它是在 Flask,Plotly.JS 和 React.JS 基础上设计而成的, 绑定了很多比如下拉框, 滑动条和图表的现代 UI 元素, 你可以直接使用 Python 代码来写相关分析, 而无需再使用 JavaScript.Dash 非常适合构建数据可视化应用程序. 然后, 这些应用程序可以在 Web 浏览器中呈现. 用户指南可以在这里 https://dash.plot.ly/ 获取.
安装
- pip install Dash==0.29.0 # 核心 Dash 后端
- pip install Dash-HTML-components==0.13.2 # HTML 组件
- pip install Dash-core-components==0.36.0 # 增强组件
- pip install Dash-table==3.1.3 # 交互式 DataTable 组件(最新!)
例子
下面的例子展示了一个具有下拉功能的高度交互式图表. 当用户在下拉菜单中选择一个值时, 应用程序代码将动态地将数据从 Google Finance 导出到 panda DataFrame. 源码在这里
Gym https://github.com/openai/gym
OpenAI https://openai.com/ 的 Gym 是一款用于增强学习算法的开发和比较工具包. 它兼容任何数值计算库, 如 TensorFlow 或 Theano.Gym 库是测试问题集合的必备工具, 这个集合也称为环境 -- 你可以用它来开发你的强化学习算法. 这些环境有一个共享接口, 允许你进行通用算法的编写.
安装
pip install gym
例子
这个例子会运行 https://gym.openai.com/envs/CartPole-v0 环境中的一个实例, 它的时间步数为 1000, 每一步都会渲染整个场景.
你可以在这里 https://gym.openai.com/ 获取其它环境的相关资料.
总结
以上这些有用的数据科学 Python 库都是我精心挑选出来的, 不是常见的如 numpy 和 pandas 等库. 如果你知道其它库, 可以添加到列表中来, 请在下面的评论中提一下. 另外别忘了先尝试运行一下它们.
如果发现译文存在错误或其他需要改进的地方, 欢迎到 掘金翻译计划 https://github.com/xitu/gold-miner 对译文进行修改并 PR, 也可获得相应奖励积分. 文章开头的 本文永久链接 即为本文在 GitHub 上的 Markdown 链接.
掘金翻译计划 https://github.com/xitu/gold-miner 是一个翻译优质互联网技术文章的社区, 文章来源为 掘金 上的英文分享文章. 内容覆盖 Android https://github.com/xitu/gold-miner#android ,iOS https://github.com/xitu/gold-miner#ios , 前端, 后端, 区块链, 产品, 设计, 人工智能等领域, 想要查看更多优质译文请持续关注 掘金翻译计划 https://github.com/xitu/gold-miner , 官方微博 http://weibo.com/juejinfanyi , 知乎专栏 https://zhuanlan.zhihu.com/juejinfanyi .
来源: https://juejin.im/post/5c075e09518825159512715f