监督学习
监督学习：应用最广泛 。给定数据集——输入特征\(X\)、输出标签\(Y\)， 学习从\(X\)到\(Y\)的映射。
- 回归(Regression)：需要预测的 Y 是连续的
- 线性回归
- 多项式回归
- ......
- 分类(Classification): 需要预测的 Y 是 离散的
- Logistic
- 支持向量机 (SVM)
- 高斯判别分析（GDA）
- ......
深度学习
深度学习：通过构建多层神经网络来对数据进行学习和分析。与传统的机器学习方法相比，深度学习可以自动从数据中提取特征，并且具有更强大的模型表达能力。
- 前馈神经网络（FNN）
- 卷积神经网络（CNN）
- 循环神经网络（RNN）
- 生成对抗网络（GAN）
- ......
无监督学习
无监督学习：给定没有标签的数据集（即只有\(X\)），要求从数据中找到interesting pattern，比如“\(X\)大致可以分成几类“等等
- 聚类(Clustering)
- 独立组件分析(ICA)
- 类比(Analogies)
- ......
强化学习
强化学习：让机器从环境中不断地试错，通过奖励和惩罚的方式（奖励信号），自动学习如何做出最优决策的一种方法。
- 基于梯度
- 基于值函数
- ......
机器学习Tips
- 运行学习算法时第一次通常不会起作用，调试机器学习算法会对效率产生极大的影响
- 不要专注于通过dive in 代码本身去优化代码、让代码run的更快，更是应该借助profiler找出代码瓶颈，然后专注于对此进行更改。
