在机器学习的数学基础中, 概率论与线性代数起到了核心作用, 但是我们常忽略另一个非常重要的领域: 微积分. 似乎我们只要了解简单的多元微分, 那么也就能学习机器学习了. 但这只是一个错觉, 我们不论想要具体了解最优化方法, 还是希望窥探反向传播的法则, 微积分是不可或缺的部分.
此外, 整个微积分对于很多学科而言都是最基础的内容, 不了解它的思想与做法, 有时很难理解当前的研究. 例如最近比较受关注的神经微分方程, 它就是将残差网络视为一个微分方程, 然后该微分方程的解法就相当于整个神经网络的传播结果.
既然微积分这么重要, 那我们还需要回去再啃一遍高数上下册? 当然能这样是最好的, 但这需要花很多时间, 我们最好还是通读一些介绍性的教程, 做到心中「有数」就可以了. 因为目前来看, 确实还有很多内容不太能用在机器学习上, 例如复杂的多重积分学, 三维曲线方程和微分中值定理等等.
本文介绍的就是 MIT 应用数学教授 Daniel Kleitman 写的一本微积分入门书籍, 它完全是用英文写的, 读者在学数学的过程中还能学学英语的表达呀.
书籍地址: http://www-math.mit.edu/~djk/calculus_beginners/
这个课程里有什么?
课程涵盖了微积分的各个方面, 从介绍微积分的意义开始, 逐渐深入. 课程最后还提供了一些数学工具, 帮助读者了解使用.
以第三章的「线性函数」为例:
该章节分为三部分:
函数的定义
线性函数定义和举例
线性本身的概念
如图所示:
使用案例介绍方程的定义
介绍什么是线性和非线性
课程目录
- Chapter 0: Why Study Calculus?
- Chapter 1: Numbers
- Chapter 2: Using a Spreadsheet
- Chapter 3: Linear Functions
- Chapter 4: Quadratics and Derivatives of Functions
- Chapter 5: Rational Functions and the Calculation of Derivatives
- Chapter 6: Exponential Functions, Substitution and the Chain Rule
- Chapter 7: Trigonometric Functions and their Derivatives
- Chapter 8: Inverse Functions and their Derivatives
- Chapter 9: Numerical Differentiation, and Non-Differentiable Functions
- Chapter 10: Review of Differentiation
- Chapter 11: Application of Differentiation to Solving Equations
- Chapter 12: The Anti-Derivative
- Chapter 13: Area under a Curve; Definite Integrals
- Chapter 14: Numerical Integration
- Chapter 15: Areas and Volumes of Parallel Sided Figures; Determinants
- Chapter 16: Some Pure Mathematics
- Chapter 17: Modeling Applications to Physics
- Chapter 18: Predator Prey Models
- Chapter 19: Solving Differential Equations
- Tools
- Glossary of Notations
- Index
还有其他入门材料吗?
数理基础对需要入门机器学习的初学者, 以及需要加深理解的从业者来说都十分重要. 因此, 机器之心也为读者整理了一些受到关注和好评的入门级数学课程, 帮助大家更好的夯实基础, 加深对机器学习的理解, 并更好的使用机器学习工具.
其他微积分课程
1. 可汗学院的「微积分预备」课程: 这是一个为没有任何数学基础的人准备的微积分预备课程, 提供了很多用于学习微积分的预备知识, 如极限的相关知识, 二项式定理等.
课程地址: https://www.bilibili.com/video/av14223492
2. 3Blue1Brown 的「微积分的本质」课程: 本课程以最为简单易懂的方式介绍了微积分的本质原理, 没有太多数学公式和枯燥无味的证明.
课程地址: https://www.bilibili.com/video/av24325548
其他线性代数课程
1. 3Blue1Brown 的「线性代数的本质」课程: 还是这位大神, 强烈推荐! 本教程用最简单的方式介绍线性代数的知识. 耐心看下去, 没有不懂的.
课程地址: https://www.bilibili.com/video/av5987715
2. MIT 的线性代数课程: 这是一个极其全面的线性代数课程, 从几何空间入手介绍线性代数的原理. Gillbert Strang 老爷子非常有激情, 几个小时大课听下来都不觉得很累很难. 当然, 画质较老, 需要适应.
课程地址: https://www.bilibili.com/video/av36568126
来源: http://www.tuicool.com/articles/faquimq