gamma函数stiriling公式_SVM参数: C和gamma
C:懲罰系數(shù),即對(duì)誤差的寬容度。C越高,說(shuō)明越不能容忍出現(xiàn)誤差,容易過(guò)擬合;C越小,容易欠擬合。C過(guò)大或者是過(guò)小,泛化能力都會(huì)變差。
gamma是選擇徑向基函數(shù)(RBF)作為kernel后,該函數(shù)自帶的一個(gè)參數(shù)。隱含地決定了數(shù)據(jù)映射到新的特征空間后的分布,gamma越大,支持向量越少,gamma越小,支持向量越多。支持向量的個(gè)數(shù)影響訓(xùn)練與預(yù)測(cè)的速度。
C 和 gamma是相互獨(dú)立的。
RBF函數(shù)公式:
注意sigma和gamma的關(guān)系。 gamma會(huì)影響每個(gè)支持向量對(duì)應(yīng)的高斯作用范圍,從而影響泛化性能。如果gamma設(shè)太大,
會(huì)很小, 很小的高斯分布長(zhǎng)得又高又瘦,會(huì)造成只會(huì)作用于支持向量樣本附近,對(duì)于未知樣本分類(lèi)效果很差,存在訓(xùn)練準(zhǔn)確率可以很高,(如果讓無(wú)窮小,則理論上,高斯核的SVM可以擬合任何非線(xiàn)性數(shù)據(jù),但容易過(guò)擬合)而測(cè)試準(zhǔn)確率不高的可能,就是通常說(shuō)的過(guò)擬合;而如果設(shè)的過(guò)小,則會(huì)造成平滑效應(yīng)太大,無(wú)法在訓(xùn)練集上得到特別高的準(zhǔn)確率,也會(huì)影響測(cè)試集的準(zhǔn)確率,就會(huì)發(fā)生欠擬合。
關(guān)于RBF的核函數(shù)SVM可以得到的兩個(gè)結(jié)論:
1、樣本數(shù)目少于特征維度并不一定會(huì)導(dǎo)致過(guò)擬合
2、RBF核應(yīng)該可以得到與線(xiàn)性核相近的效果(按照理論,RBF核可以模擬線(xiàn)性核),可能好于線(xiàn)性核,也可能差于,但是,不應(yīng)該相差太多。當(dāng)然,很多問(wèn)題中,比如維度過(guò)高,或者樣本海量的情況下,大家更傾向于用線(xiàn)性核,因?yàn)樾Ч喈?dāng),但是在速度和模型大小方面,線(xiàn)性核會(huì)有更好的表現(xiàn)。
參考:
CSDN-專(zhuān)業(yè)IT技術(shù)社區(qū)-登錄?blog.csdn.net總結(jié)
以上是生活随笔為你收集整理的gamma函数stiriling公式_SVM参数: C和gamma的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: scipy是python下的什么_pyt
- 下一篇: 蓝牙地址的name为null_蓝牙, e