時隔好久沒有再拾起機器學習了，今日抽空接著學

今天是從最簡單的二維資料分類開始學習SVM~

（上圖為原始資料）

SVM的代價函式

這裡套用以前logistic迴歸的模板改一下下。。

load('ex6data1.mat');
theta=rand(3,1); 
[m,n]=size(X);
x=ones(m,1); % 新增常量
x=[x X];
C=1;
for i=1:10000 % 擬合次數  
      theta=theta-(((x).*(x*theta>=-1))'*(1-y)+((-x).*(x*theta<=1))'*y).*C; % 先不考慮正則化項
end
 

C值設為不同的數值，得到的決策邊界如下：

由此可見，C值越大的話，資料錯分的現象會減少，但是不會得到更貼合自然（間隔大）的決策邊界。
（梨今天學習也要加油呢，手動比心~❥）