當前位置：首頁 > 编程资源 > 编程问答 >内容正文

编程问答

非线性模型的最小二乘（LS）近似解

發布時間：2024/5/15 编程问答 51 豆豆

生活随笔收集整理的這篇文章主要介紹了非线性模型的最小二乘（LS）近似解小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

文章目錄

1 非線性誤差方程
2 非線性模型的LS解
3 實例分析
- 3.1 問題
- 3.2 解答

??現實世界中存在大量的非線性模型，并且我們常常需要對模型中的未知參數進行估計。當模型的非線性強度較弱、精度要求合適時，我們可將非線性模型線性化獲取其近似解。本文討論以最小二乘法估計線性化后的模型參數。

1 非線性誤差方程

??非線性的觀測方程可表示為
$\mathop{L}\limits_{n,1}=\mathop{f}\limits_{n,1}(\mathop{X}\limits_{t,1})+\mathop{\Delta}\limits_{n,1} \tag{1}$
式中， $f(X)=\left( f_{1}(X)f_{2}(X)\cdots f_{n}(X) \right)^{T}$ 是由n個X的非線性函數組成的 $n\times1$ 向量。
??當未知參數（X）、真誤差（ $\Delta$ ）分別用其估值 $\hat{X}$ 、 $V$ 代替時，則可得非線性誤差方程
$\mathop{V}\limits_{n,1}=\mathop{f}\limits_{n,1}(\hat{X})-\mathop{L}\limits_{n,1} \tag{2}$
式中， $V$ 也稱為殘差向量。

2 非線性模型的LS解

??將非線性模型式 $(2)$ 在 $X^{0}$ 處泰勒展開并取至一次項，得
$V={\frac{\partial f(\hat{X})}{\partial \hat{X}}\mid_{\hat{X}=X^{0}}}\bullet {\delta\hat{X}}-(L-f(X^{0})) \tag{3}$
若令 $l=L-f(X^{0})$ ，則
$V=B\bullet\delta\hat{X}-l \tag{4}$
式中，
$B=\begin{pmatrix} {\frac{\partial f_1(\hat{X})}{\partial \hat{X_1}}\mid_{\hat{X}=X^{0}}} & {\frac{\partial f_1(\hat{X})}{\partial \hat{X_2}}\mid_{\hat{X}=X^{0}}} & \cdots & {\frac{\partial f_1(\hat{X})}{\partial \hat{X_t}}\mid_{\hat{X}=X^{0}}} \\ {\frac{\partial f_2(\hat{X})}{\partial \hat{X_1}}\mid_{\hat{X}=X^{0}}} & {\frac{\partial f_2(\hat{X})}{\partial \hat{X_2}}\mid_{\hat{X}=X^{0}}} & \cdots & {\frac{\partial f_2(\hat{X})}{\partial \hat{X_t}}\mid_{\hat{X}=X^{0}}}\\ \vdots & \vdots & \vdots & \vdots \\ {\frac{\partial f_n(\hat{X})}{\partial \hat{X_1}}\mid_{\hat{X}=X^{0}}} & {\frac{\partial f_n(\hat{X})}{\partial \hat{X_2}}\mid_{\hat{X}=X^{0}}} & \cdots & {\frac{\partial f_n(\hat{X})}{\partial \hat{X_t}}\mid_{\hat{X}=X^{0}}}\\ \end{pmatrix} \tag{5}$
稱為系數矩陣（設計矩陣）。
??根據最小二乘原理，
$\delta\hat{X}=(B^TPB)^{-1}B^{T}Pl \tag{6}$
式中， $P$ 為權陣（衡量各個分量對總體的重要程度）且 $P=Q^{-1}$ 。這樣，待估參數 $X$ 的最終估計結果為
$\hat{X}=X^{0}+\delta \hat{X} \tag{7}$

3 實例分析

3.1 問題

??已知非線性模型 $f(x)=ae^{bx}$ （其中 $a, b$ 為待估參數），通過觀測我們獲得了如下表所示的觀測結果。現我們用LS估計未知參數 $a, b$ 。

x12345

f(x)

4.20

3.25

2.52

1.95

1.51

3.2 解答

??（1）列立觀測方程
??依題意可列如下觀測方程（對應式 $(1)$ ）
$\begin{cases} f_1=ae^b+\Delta_1 \\ f_2=ae^{2b}+\Delta_2\\ f_3=ae^{3b}+\Delta_3\\ f_4=ae^{4b}+\Delta_4\\ f_5=ae^{5b}+\Delta_5\\ \end{cases} \tag{8}$
此時，我們可隨機取兩組數據（因為未知參數僅有 $a, b$ ）帶入 $f(x)=ae^{bx}$ 中解得 $\begin{pmatrix} a \\ b \\ \end{pmatrix}$ 的初始值為 $\begin{pmatrix} a^0 \\ b^0 \\ \end{pmatrix}=\begin{pmatrix} 5.4 \\ -0.3 \\ \end{pmatrix}$ 。

??（2）估值代替得誤差方程（對應式 $(2)$ ）
$\begin{cases} v_1=\hat{a}e^{\hat{b}}-f_1 \\ v_2=\hat{a}e^{2\hat{b}}-f_2\\ v_3=\hat{a}e^{3\hat{b}}-f_3\\ v_4=\hat{a}e^{4\hat{b}}-f_4\\ v_5=\hat{a}e^{5\hat{b}}-f_5\\ \end{cases} \tag{9}$

??（3）將誤差方程于 $X^0$ 處泰勒展開（對應式 $(4)$ ）
$\begin{cases} v_1=e^{b^0}\cdot\delta a+a^0e^{b^0}\cdot\delta b-(f_1-a^0e^{b^0}) \\ v_2=e^{2b^0}\cdot\delta a+2a^0e^{2b^0}\cdot\delta b-(f_2-a^0e^{2b^0})\\ v_3=e^{3b^0}\cdot\delta a+3a^0e^{3b^0}\cdot\delta b-(f_3-a^0e^{3b^0})\\ v_4=e^{4b^0}\cdot\delta a+4a^0e^{4b^0}\cdot\delta b-(f_4-a^0e^{4b^0})\\ v_5=e^{5b^0}\cdot\delta a+5a^0e^{5b^0}\cdot\delta b-(f_5-a^0e^{5b^0})\\ \end{cases} \tag{10}$
帶入具體數據，則式 $(10)$ 可化為
$V=\begin{pmatrix} 0.7408 & 4.0004 \\ 0.5488 & 5.9272 \\ 0.4066 & 6.5864\\ 0.3012 & 6.5058\\ 0.2231 & 6.0245\\ \end{pmatrix} \begin{pmatrix} \delta a\\ \delta b\\ \end{pmatrix}- \begin{pmatrix} 0.1996\\ 0.2864\\ 0.3245\\ 0.3236\\ 0.3051\\ \end{pmatrix}$
那么，依式 $(6)$ 可解得
$\begin{pmatrix} \delta a\\ \delta b\\ \end{pmatrix}= \begin{pmatrix} -0.005858021\\ 0.049953787\\ \end{pmatrix}$
則未知參數最終估值為
$\begin{pmatrix} \hat{a}\\ \hat{b}\\ \end{pmatrix}= \begin{pmatrix} a^0\\ b^0\\ \end{pmatrix}+ \begin{pmatrix} \delta a\\ \delta b\\ \end{pmatrix}= \begin{pmatrix} 5.394141979\\ -0.250246213\\ \end{pmatrix}$

??因此，我們求得的非線性模型為 $f(x)=5.394141979e^{-0.250246213x}$ 。

總結

以上是生活随笔為你收集整理的非线性模型的最小二乘（LS）近似解的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。

上一篇：在Win10安装上Hadoop2.7.5
下一篇： Window平台搭建Redis分布式缓存