機器學習總體流程圖

機器學習 四個階段

1.資料預處理階段： 特徵提取：將原始資料轉化為特徵資料，從而能夠有效的對原始資料所涵蓋的資訊進行表達（raw data→feature）； 特徵選擇：有時會從原始資料提取很多的特徵，我們選擇出一部分特徵來以適應當前的場景，同時簡化資料； 降維、幅度縮減：當進行特徵選擇後資料的維度仍然過高，或者適用當前場景的模型相對簡單，為了解決計算成本以及防止過擬合，通常對資料再進行降維操作；主要採用主成分分析法（PCA）； 取樣：採集樣本集；過取樣：；欠取樣：；

2.模型學習： 根據經驗以及對當前場景的理解選擇適合的機器學習模型，並對資料進行訓練，從而學習到資料所含的內在規律。由資訊理論知識可知，對於給定的資料，其所含的資訊就已經確定了，我們所做的資料預處理即是儘可能的提取其中所涵蓋的有用資訊並剔除噪聲資料，即是資料是根本，其本身決定了模型效果的上限；而我們選擇不同的演算法則是使我們的模型效果無線趨近於其上限，簡而言之：演算法越合適，效果越好；機器學習常用演算法如下圖所示：

①hold out （留出法）

• 要儘量保持資料分佈的一致性，如分層取樣；
• 多次隨機重複劃分；
• 測試集不能太大，也不能太小：

②k折交叉檢驗（cross validation） ③自助法（bootstrap） 即當樣本數量較多時，我們能夠按照自助法把原有資料集隨機分割成約7:3的兩個子資料集$D_1$和$D_2$，我們用$D_1$來做訓練集生成模型，$D_2$來做測試集並選擇模型效能的度量來判別模型的好壞。

模型的常用效能度量標準

迴歸問題(Regression)

以下用$y$代表真實值，$y^*$代表預測值，$\bar y$代表真實值的均值：

• 平均絕對誤差MAE（mean absolute error） $MAE=\frac{1}{n} \sum\limits_{i=1}^{n} \begin{vmatrix} y_i-y^*_i\end{vmatrix}$
• 平均平方誤差MSE (mean square error)$MSE=\frac{1}{n}\sum\limits_{i=1}^{n}(y_i-y^*_i)^2$
• 方均根誤差RMSE（root mean square error）$RMSE=\sqrt{\frac{1}{n}\sum\limits_{i=1}^{n}(y_i-y^*_i)^2}$
• 殘差平方和$SS_{residual}=\sum\limits_{i=1}^{n}(y_i-y^*_i)^2$
• 迴歸平方和$SS_{regression}=\sum\limits_{i=1}^{n}(y^*_i-\bar y)^2$
• 總離差平方和$SS_{total}=\sum\limits_{i=1}^{n}(y_i-\bar y)^2$
• 線性迴歸決定係數 $R^2$ ：反應了$y$的波動有多少百分比能被$x$的波動所描述，即表徵依變數$y$的變異中有多少百分比,可由控制的自變數$x$來解釋$SS_{total}=SS_{residual}+SS_{regression}$ $R^2=1-\frac{SS_{regression}}{SS_{total}}=\frac{SS_{residual}}{SS_{total}}$

分類問題(Classification)

• 錯誤率 $Err=\frac{1}{m}\sum\limits_{i=1}^{m}\mathbb{I}(y_i\neq y^*_i)$
• 精度 $Acc=\frac{1}{m}\sum\limits_{i=1}^{m}\mathbb{I}(y_i=y^*_i)$
• 混淆矩陣(confusin matrix)

準確率$P=\frac{TP}{TP+FP}$ 召回率$R=\frac{TP}{TP+FN}$ 在不同的場景我們需要選擇準確率或者召回率，如在對樣本的精度有較高要求的時候應該選擇準確率，而在某些特定對樣本的準確性（寧可錯殺一千也不放過一個）有較高要求的時候應該選擇召回率； $F_1$-Score:是統計學中用來衡量二分類模型精確度的一種指標。它同時兼顧了分類模型的準確率和召回率，可以看做是準確率和召回率的一種加權平均$\frac{1}{F_1}=\frac{1}{P}+\frac{1}{R}$ 在此基礎上可以對其加一個影響因子$\beta$ $F_\beta=\frac{(1+{\beta} ^2)*P*R}{(\beta ^2 *P)+R}$ 當$\beta>1$時召回率有更大影響，當$\beta<1$時準確率有更大影響

• AUC (Area Under ROC Curve)

機器學習常用方法