精品伊人久久大香线蕉,开心久久婷婷综合中文字幕,杏田冲梨,人妻无码aⅴ不卡中文字幕

Logistic?Regression（邏輯斯蒂回歸）

Classification（分類問題）

使用1和0，或者positive和negative表示事件的相對立的兩種可能情況。（這里指二元分類問題）

e.g.

垃圾郵件與非垃圾郵件等

Logistic?Regression?Model（邏輯斯蒂回歸模型）

Sigmoid Function(又Logistic Function)

g(z) = 1/(1 e^-z)：值的范圍屬于[0,1]

Hypothesis?Output（預測函數）

h_θ(x) = g(θ^Tx),? ?g(θ^Tx) = 1/(1 e^-θTx)，其中

?Decision?boundary（決策邊界）

?

?

?Cost Function（損失函數）

?J(θ) = (1/m)?Σ1,m(1/2)(h_θ(x⁽ⁱ⁾) - y⁽ⁱ⁾)²

但是上述函數不是凸函數，存在多個極值點，為此我們轉換如下：

即：

?Simplified Cost Function（簡化損失函數）

?

參數優化

Gredient Decent（梯度離散下降）?

?

?參數更新與表達

?

Advanced Optimization

?

?Multu-class Classfication:One vs All

?Regularization（正則化）

?Overfitting & Underfitting（過度擬合與欠擬合）

?相關概念

overfitting--過度擬合--high varience:擬合線與點重合比較好，但是對未來的數據點預測性極差

just right--擬合剛好

underfitting--欠擬合--high bias：擬合不充分

?e.g.

Adressing Overfitting（過度擬合的解決方法）

1.刪除部分特質，可以使用人為選擇或者采用模型選擇算法，這種方法會丟失信息，有時會導致擬合失敗

?2.正則化，降低特征的值或維度，實際表現較好

?Regularization

?Cost Function（含正則化的損失函數）

?Regularized Linear Reguression（正則化的線性回歸）

?損失函數

梯度下降

正規方程

?

?Regularized Logistic Reguression（正則化的邏輯斯蒂回歸）

?損失函數

梯度下降

?

?