最优化

凸优化

子模/亚模/次模函数

参考 Jeffrey A. Bilmes 教授的 教程

Fast large-scale optimization by unifying stochastic gradient and quasi-Newton methods

Numerical Optimization: Understanding L-BFGS

ADMM(alternating derection method of multipliers)

Proximal Algorithms

组合优化

所谓组合优化，指的是在参数域为离散但是取值空间巨大的问题中搜索最值的过程。

典型的组合优化问题包括：

• TSP(旅行商问题) 给定N个城市的坐标，找到遍历这些城市的最短可行路径

Neural Combinatorial Optimization with Reinforcement Learning. 参见这个 notebook

那么问题来了，什么是神经组合优化？