????秩2算法可以保證在任意第k步迭代下， 只要一維搜索是精確的，近似矩陣Hk就是正定的。

DFP算法

令k=0,選擇初始點x(0)，任意選擇一個堆成正定實矩陣H0。

如果g(k)=0， 停止迭代； 否則，令d(k)=?Hkg(k)

計算
αk=argminα≥0f(x(k)+αd(k))x(k+1)=x(k)+αkd(k)
4.計算
Δx(k)=αkd(k)Δg(k)=g(k+1)?g(k)Hk+1=Hk+Δx(k)Δx(k)TΔx(k)TΔg(k)+[HkΔg(k)][HkΔg(k)]TΔg(k)THkΔg(k)
5.令 k==k+1, 回到第二步。

定理18.1 利用DFP算法求解二次型問題時，Hessian矩陣為Q=QT，有Hk+1Δg(i)=Δx(i),0≤i≤k成立。

????需要說明的是DFP算法是一種共軛方法。
定理18.2 假定g(k)≠0，在DFP算法中，只要矩陣Hk是正定的， Hk+1就一定是正定的。

????DFP算法能夠使得Hk是正定的，因此它由于秩1算法，但是，處理一些規模較大的非二次型問題時，DFP算法會被“卡住”，迭代無法繼續展開，原因是Hk矩陣接近稱為奇異矩陣了，后續的BFGS算法可以解決這一問題。

總結

以上是生活随笔為你收集整理的最优化学习笔记(十八)——拟牛顿法(4)DFP算法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。