1. 程式人生 > >吳恩達老師機器學習筆記SVM(一)

吳恩達老師機器學習筆記SVM(一)

 時隔好久沒有再拾起機器學習了,今日抽空接著學

今天是從最簡單的二維資料分類開始學習SVM~

原始資料
(上圖為原始資料)

SVM的代價函式

在這裡插入圖片描述
這裡套用以前logistic迴歸的模板改一下下。。

load('ex6data1.mat');
theta=rand(3,1); 
[m,n]=size(X);
x=ones(m,1); % 新增常量
x=[x X];
C=1;
for i=1:10000 % 擬合次數  
      theta=theta-(((x).*(x*theta>=-1))'*(1-y)+((-x).*(x*theta<=1))'*y).*C; % 先不考慮正則化項
end

C值設為不同的數值,得到的決策邊界如下:

在這裡插入圖片描述
由此可見,C值越大的話,資料錯分的現象會減少,但是不會得到更貼合自然(間隔大)的決策邊界。
(梨今天學習也要加油呢,手動比心~❥)