凸优化理论本身非常博大，对于广大仅仅想要了解一下机器学习或者深度学习的同学来说，稍微了解一点凸优化也就够了。

器学习简单来说，主要做的就是优化问题，先初始化一下权重参数，然后利用优化方法来优化这个权重，直到准确率不再是上升，迭代停止

为什么要学习凸优化？

凸优化在数学规划领域具有非常重要的地位。一旦将一个实际问题表述为凸优化问题，大体上意味着相应问题已经得到彻底解决，这是非凸的优化问题所不具有的性质。其应用非常广泛，机器学习中很多优化问题都要通过凸优化来求解；在非凸优化中，凸优化同样起到重要的作用，很多非凸优化问题，可以转化为凸优化问题来解决；

1、学习/复习线性代数和多元微积分的至少。

实际上，凸优化理论综合使用了线性代数和微积分的相关知识，比如方向导数，雅克比矩阵，海森矩阵，KKT条件等。

2、这里强烈推荐MIT公开课《线性代数》，G.Stranger教授主讲，学完之后，你会对线性代数有全新的认识。（没错，我是Stranger教授的迷弟，为他疯狂打Call）

学习《Optimization Model》

这门课的学习过程，可以结合方述诚教授的《线性规划》和《非线性规划》的适配，学习效果更佳。

3、学习《凸优化》

有了1和2的准备，其实《凸优化》这本书已经差不多学习了60%，剩下的就是丰满自己的羽翼啦，把各个知识点串起来，形成网络。如果你有时间，还可以再看看台湾以为老师写的一本书《Convex Optimization in signal and communication》，看书名是一本应用方向的书，但其实也主要是将理论和算法，真正应用的部分不算多。

转载请注明：谷谷点程序 » 机器学习数学之凸优化学习