生活随笔
收集整理的這篇文章主要介紹了
python实现最小二乘法（转）
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
概念
最小二乘法多項(xiàng)式曲線擬合，根據(jù)給定的m個(gè)點(diǎn),并不要求這條曲線精確地經(jīng)過這些點(diǎn)，而是曲線y=f(x)的近似曲線y= φ(x)。
原理
[原理部分由個(gè)人根據(jù)互聯(lián)網(wǎng)上的資料進(jìn)行總結(jié)，希望對(duì)大家能有用]
? ? ?給定數(shù)據(jù)點(diǎn)pi(xi,yi)，其中i=1,2,…,m。求近似曲線y= φ(x)。并且使得近似曲線與y=f(x)的偏差最小。近似曲線在點(diǎn)pi處的偏差δi= φ(xi)-y，i=1,2,...,m。?
常見的曲線擬合方法:
? ? ?1.使偏差絕對(duì)值之和最小
? ? ?
? ? ?2.使偏差絕對(duì)值最大的最小
? ? ?
? ? ?3.使偏差平方和最小
? ? ?
? ? ?按偏差平方和最小的原則選取擬合曲線，并且采取二項(xiàng)式方程為擬合曲線的方法,稱為最小二乘法。
推導(dǎo)過程：
? ? ?1.?設(shè)擬合多項(xiàng)式為：
? ? ?? ? ?
? ? ?2.?各點(diǎn)到這條曲線的距離之和，即偏差平方和如下：
? ? ?? ? ?
? ? ?3.?為了求得符合條件的a值，對(duì)等式右邊求ai偏導(dǎo)數(shù)，因而我們得到了：?
? ? ?? ? ?
? ? ?? ? ?
? ? ?? ? ?? ? ?? ? ?? ? ?.......
? ? ?? ? ?
? ? ?4.?將等式左邊進(jìn)行一下化簡(jiǎn)，然后應(yīng)該可以得到下面的等式：
? ? ?? ? ?
? ? ?? ? ?
? ? ?? ? ?? ? ?? ? ??.......
? ? ?? ? ?
? ? ?5.?把這些等式表示成矩陣的形式，就可以得到下面的矩陣：
? ? ?? ? ?
? ? ?6.?將這個(gè)范德蒙得矩陣化簡(jiǎn)后可得到:
? ? ?? ? ?
? ? ?7.?也就是說X*A=Y，那么A = (X'*X)-1*X'*Y，便得到了系數(shù)矩陣A，同時(shí)，我們也就得到了擬合曲線。
實(shí)現(xiàn)
運(yùn)行前提:
Python運(yùn)行環(huán)境與編輯環(huán)境；Matplotlib.pyplot圖形庫，可用于快速繪制2D圖表，與matlab中的plot命令類似，而且用法也基本相同。
代碼:
[python]?view plain
?copy ?? ?? ''? ? ? ?? import?matplotlib.pyplot?as?plt?? import?math?? import?numpy?? import?random?? ?? fig?=?plt.figure()?? ax?=?fig.add_subplot(111)?? ?? ?? order=9?? ?? ?? x?=?numpy.arange(-1,1,0.02)?? y?=?[((a*a-1)*(a*a-1)*(a*a-1)+0.5)*numpy.sin(a*2)?for?a?in?x]?? ?? ?? ?? ?? i=0?? xa=[]?? ya=[]?? for?xx?in?x:?? ????yy=y[i]?? ????d=float(random.randint(60,140))/100?? ?????? ????i+=1?? ????xa.append(xx*d)?? ????ya.append(yy*d)?? ?? ''? ? ? ? ?? ?? ax.plot(xa,ya,color='m',linestyle='',marker='.')?? ?? ?? ?? matA=[]?? for?i?in?range(0,order+1):?? ????matA1=[]?? ????for?j?in?range(0,order+1):?? ????????tx=0.0?? ????????for?k?in?range(0,len(xa)):?? ????????????dx=1.0?? ????????????for?l?in?range(0,j+i):?? ????????????????dx=dx*xa[k]?? ????????????tx+=dx?? ????????matA1.append(tx)?? ????matA.append(matA1)?? ?? ?? ?? matA=numpy.array(matA)?? ?? matB=[]?? for?i?in?range(0,order+1):?? ????ty=0.0?? ????for?k?in?range(0,len(xa)):?? ????????dy=1.0?? ????????for?l?in?range(0,i):?? ????????????dy=dy*xa[k]?? ????????ty+=ya[k]*dy?? ????matB.append(ty)?? ??? matB=numpy.array(matB)?? ?? matAA=numpy.linalg.solve(matA,matB)?? ?? ?? ?? xxa=?numpy.arange(-1,1.06,0.01)?? yya=[]?? for?i?in?range(0,len(xxa)):?? ????yy=0.0?? ????for?j?in?range(0,order+1):?? ????????dy=1.0?? ????????for?k?in?range(0,j):?? ????????????dy*=xxa[i]?? ????????dy*=matAA[j]?? ????????yy+=dy?? ????yya.append(yy)?? ax.plot(xxa,yya,color='g',linestyle='-',marker='')?? ?? ax.legend()?? plt.show()?? 運(yùn)行效果:?
本博客中所有的博文都為筆者（Jairus Chan）原創(chuàng)。
如需轉(zhuǎn)載，請(qǐng)標(biāo)明出處：http://blog.csdn.net/JairusChan。
如果您對(duì)本文有任何的意見與建議，請(qǐng)聯(lián)系筆者（JairusChan）。
創(chuàng)作挑戰(zhàn)賽新人創(chuàng)作獎(jiǎng)勵(lì)來咯，堅(jiān)持創(chuàng)作打卡瓜分現(xiàn)金大獎(jiǎng)
總結(jié)
以上是生活随笔為你收集整理的python实现最小二乘法（转）的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。
如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。
