這里寫(xiě)目錄標(biāo)題

• 原理
• 代碼實(shí)現(xiàn)

原理

最小二乘法適用于對(duì)處理的一堆數(shù)據(jù)，不必精確的經(jīng)過(guò)每一點(diǎn)，而是根據(jù)圖像到每個(gè)數(shù)據(jù)點(diǎn)的距離和最小確定函數(shù)。需要注意的是，最小二乘是對(duì)全局進(jìn)行擬合優(yōu)化，對(duì)噪聲比較敏感，所以如果有噪聲比較大的觀測(cè)值會(huì)影響擬合結(jié)果，此時(shí)建議用RANSAC算法擬合。

最小二乘法逼近的最簡(jiǎn)單的例子是根據(jù)一組觀測(cè)值對(duì)(x1,y1),(x2,y2)…(xn,yn)來(lái)擬合一條直線。

對(duì)于$y=a_0+a_{1}x+e$，在一組觀測(cè)數(shù)據(jù)中擬合最好的模型，即使得殘差$e$的平方和最小。分別對(duì)$a_0、a_1$求偏導(dǎo)，可得：
$$\begin{array}{c}\sum _{i=1}^n{a}_0+\sum _{i=1}^n{x}_i{a}_1=\sum _{i=1}^n{y}_i\\ \sum _{i=1}^n{x}_i{a}_0+\sum _{i=1}^n{x}_i^2{a}_1=\sum _{i=1}^n{x}_i{y}_i\end{array}$$
則：
$$a_1=\frac{n{\sum }_{i=1}^n{x}_i{y}_i?{\sum }_{i=1}^n{x}_i{\sum }_{i=1}^n{y}_i}{n{\sum }_{i=1}^n{x}_i^2?({\sum }_{i=1}^n{x}_i{)}^2}$$
$$a_0=\text{yˉ?}?a_1\text{xˉ}$$
對(duì)n次多項(xiàng)式同樣適用。

代碼實(shí)現(xiàn)

def leastsq_fit(points:np.ndarray):points_size = len(points)points_sum = np.sum(points, axis=0)sum_xy = np.sum(points[:, 0] * points[:, 1], axis=0)sum_x = points_sum[0]sum_y = points_sum[1]sum_sqare_x = np.sum(points ** 2, axis=0)[0]average_x = sum_x / points_sizeaverage_y = sum_y / points_sizek = (points_size*sum_xy - sum_x*sum_y)/(points_size*sum_sqare_x - sum_x*sum_x)b = average_y - average_x*kbest_model = np.zeros((2, 1), dtype=np.float32)best_model[0, 0] = bbest_model[1, 0] = kreturn best_model

矩陣形式參考我另外的博客鏈接1，鏈接2

def leastsq_mutifunc(x, y, m):"""多項(xiàng)式最小二乘法實(shí)現(xiàn), 矩陣形式:param x:輸入:param y:目標(biāo)輸出:param m:多項(xiàng)式階數(shù):return:多項(xiàng)式系數(shù)"""x = np.array(x)y = np.array(y)assert m <= x.shape[0], f"the number of m({m}) need less than x's size({x.shape[0]})"assert x.shape[0] == y.shape[0], f"the size of x({x.shape[0]}) must equal to y's size({y.shape[0]}"x_mat = np.zeros((x.shape[0], m+1))for i in range(x.shape[0]):x_mat_h = np.zeros((1, m+1))for j in range(m+1):x_mat_h[0][j] = x[i] ** (m-j)x_mat[i] = x_mat_htheta = np.dot(np.dot(np.linalg.inv(np.dot(x_mat.T, x_mat)), x_mat.T), y.T)return theta

參考鏈接1
參考鏈接2
參考鏈接3

總結(jié)

以上是生活随笔為你收集整理的python:最小二乘法拟合原理及代码实现的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。