挖坑待填的数学部分

最近发现线代的基础有点忘了,决定近期抽时间看看

最优化-牛顿法(Newton)

正定:positive definite
半正定:positive semi-definite

《Deep learning》P59页

“Hessian大的正特征值表示该方向上的导数快速增加,因此基于Hessian的优化算法可以预测,在此情况下最陡峭方向实际上不是有前途的搜索方向”

Hessian矩阵

(挖坑代填)
(https://www.jiqizhixin.com/articles/2019-03-05-8)

L2范数

文章作者: EderOdan
文章链接: ederodan.com/2019/10/27/%E6%8C%96%E5%9D%91%E5%BE%85%E5%A1%AB%E7%9A%84%E6%95%B0%E5%AD%A6%E9%83%A8%E5%88%86/
版权声明: 本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自 EderOdan|梓人的博客