第四章
一维搜索
这里写目录标题
第四章
一维搜索一、缩小区间的搜索缩小区间的精确一维搜索黄金分割法(0.618 法)中点法(二分法)进退法求初始不确定区间二、Newton和插值法1、 Newton法2、 插值法基本的思想就是拟合一个多元n次方程,按照参数的需求去选择点数,若点数不够, 可以用导数凑方程以3点2次为例:两点两次:三次插值:四个参数
近似求解和精确求解
一、缩小区间的搜索
一元函数求极小及线性搜索均为一维搜索。常用于
缩小区间的精确一维搜索
考虑问题§
不确定区间: [𝛼, 𝛽]含𝜑(
在鞍点(saddle points)处(即某些维度上梯度为零,某些维度上梯度不为零),SGD、Momentum与NAG一直在鞍点梯度为零的方向上振荡,很难打破鞍点位置的对称性;Adagrad、RMSprop与Adadelta能够很快地向梯度不为零的方向上转移
下面是自己总结的,截个图吧
收到校友的提问,这次的题目跟我当时不太一样,要求的精确线搜索,而且维数很高,之前的代码需要修改。为此专门写了这个博客,时间仓促,可能会有问题,有啥问题欢迎私信和评论,由于我要做其他事情,其他的请读者看懂了自己写,我只提供最速下降法的代码,其他的举一反三,并不难写。
具体理论,比如迭代方式等可以参看我其他博客
大连理工大学 2021年
最优化方法
大作业(2)_Jiang_Tesla的博客-CSDN博客_大连理工大学
最优化方法
答案
这次的题比较抽象,我们首先应该知道下面两个式子
第二个式子考试也...