当前位置: 首页 > 图灵资讯 > 技术篇> 自己对gradient的误解-----理解gradient descend算法

自己对gradient的误解-----理解gradient descend算法

来源:图灵教育
时间:2023-06-30 16:32:00

首先,f(x)如果x是k维,gradient就是k维,也就是在x的domain中,gradient的方向会使fradient(x)增长最快。

自己对gradient的误解-----理解gradient descend算法_投影平面注意这里的gradient不是两个cross black point 两者之间的方向,这个方向是3D的。但在2D投影平面上的一个方向,即

从这张图中可以看出,对于f(x,y)函数,gradient,只是x-y平面的方向

这样理解gradintent descent是流畅的。每个参数cann be updated below

自己对gradient的误解-----理解gradient descend算法_投影平面_02

自己对gradient的误解-----理解gradient descend算法_投影平面_02