1. 概率：
1.1 定義 ? 概率(P)robability: 對一件事情發生的可能性的衡量 1.2 范圍 ? 0 <= P <= 1 1.3 計算方法：? 1.3.1 根據個人置信 1.3.2 根據歷史數據 1.3.3 根據模擬數據 1.4 條件概率： 2. Logistic Regression (邏輯回歸)
2.1 例子 2.2 基本模型 測試數據為X（x0，x1，x2···xn） 要學習的參數為： Θ（θ0，θ1，θ2，···θn）
向量表示：
處理二值數據，引入Sigmoid函數時曲線平滑化?



預測函數：
用概率表示： 正例(y=1)： 反例(y=0):
2.3 ?Cost函數 線性回歸: 找到合適的 θ0，θ1使上式最小
Logistic regression: Cost函數：


目標：找到合適的 θ0，θ1使上式最小 2.4 解法：梯度下降（gradient decent)
? ?

更新法則：
學習率 同時對所有的θ進行更新 重復更新直到收斂 ??


1.?? ? ?皮爾遜相關系數 (Pearson Correlation Coefficient): 1.1 衡量兩個值線性相關強度的量 1.2 取值范圍 [-1, 1]:? 正向相關: >0, 負向相關：<0, 無相關性：=0
1.3
2. 計算方法舉例：

X	Y
1	10
3	12
8	24
7	21
9	34
?	?

3. 其他例子：
4. R平方值:
4.1定義：決定系數，反應因變量的全部變異能通過回歸關系被自變量解釋的比例。
4.2 描述：如R平方為0.8，則表示回歸關系可以解釋因變量80%的變異。換句話說，如果我們能控制自變量不變，則因變量的變異程度會減少80%
4.3： 簡單線性回歸：R^2 = r * r 多元線性回歸：



5. R平方也有其局限性：R平方隨著自變量的增加會變大，R平方和樣本量是有關系的。因此，我們要到R平方進行修正。修正的方法：






5. R平方也有其局限性：R平方隨著自變量的增加會變大，R平方和樣本量是有關系的。因此，我們要到R平方進行修正。修正的方法：

總結

以上是生活随笔為你收集整理的非线性回归的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。