1. 程式人生 > >聚類--K均值算法

聚類--K均值算法

return turn itl 所在 size load 顯示 ict .data

聚類--K均值算法:自主實現與sklearn.cluster.KMeans調用

1.用python實現K均值算法

K-means是一個反復叠代的過程,算法分為四個步驟:(x,k,y)

import numpy as np
x = np.random.randint(1,50,[20,1])
y = np.zeros(20)
k = 3
# 選取數據空間中的K個對象作為初始中心,每個對象代表一個聚類中心;def initcenter(x, k): kc def initcenter(x,k): return x[:k] kc = initcenter(x,k) kc # 對於樣本中的數據對象,根據它們與這些聚類中心的歐氏距離,
#按距離最近的準則將它們分到距離它們最近的聚類中心(最相似)所對應的類 ; def nearest(kc,i): d=(abs(kc-i)) w=np.where(d==np.min(d)) return w[0][0] kc = initcenter(x,k) def nearest(kc,i): d=(abs(kc-i)) w=np.where(d==np.min(d)) return w[0][0] kc = initcenter(x,k) nearest(kc,93) def xclassify(x,y,kc): for i in
range(x.shape[0]): y[i] = nearest(kc,x[i]) return y kc = initcenter(x,k) y = xclassify(x,y,kc) print(kc,y) #更新聚類中心:將每個類別中所有對象所對應的均值作為該類別的聚類中心,計算目標函數的值; def kcmean(x,y,kc,k): l = list(kc) flag = False for c in range(k): m = np.where(y == c) n = np.mean(x[m])
if l[c] != n: l[c] = n flag = True print(l,flag) return (np.array(l),flag) kc = initcenter(x,k) flag = True k = 3 #判斷聚類中心和目標函數的值是否發生改變,若不變,則輸出結果,若改變,則返回2)。 while flag: y = xclassify(x,y,kc) kc,flag = kcmean(x,y,kc,k)

結果:

技術分享圖片

2. 鳶尾花花瓣長度數據做聚類並用散點圖顯示。

import numpy as np
from sklearn.datasets import load_iris   
iris = load_iris()
x = iris.data[:,2]
y = np.zeros(150)
 
def initcenter(x,k):    #初始聚類中心數組
    return x[:k]
 
def nearest(kc,i):       #數組中的值,與聚類中心最小距離所在類別的索引號
    d = (abs(kc-i))
    w = np.where(d == np.min(d))
    return w[0][0]
 
def xclassify(x,y,kc):
    for i in range(x.shape[0]):       #對數組的每個值進行分類,shape[0]讀取矩陣第一維度的長度
        y[i] = nearest(kc,x[i])
    return y
 
def kcmean(x,y,kc,k):     #計算各聚類新均值
    l = list(kc)
    flag = False
    for c in range(k):
        print(c)
        m = np.where(y == c)
        if len(m) == 1:
            n = x[c]
        else:
            n=np.mean(x[m])
        if l[c] != n:
            l[c] = n
            flag = True     #聚類中心發生變化
            print(l,flag)
    return (np.array(l),flag)
 
 
k = 3
kc = initcenter(x,k)
 
flag = True
print(x,y,kc,flag)
 
#判斷聚類中心和目標函數的值是否發生改變,若不變,則輸出結果,若改變,則返回2
while flag:
    y = xclassify(x,y,kc)
    kc, flag = kcmean(x,y,kc,k)
    print(y,kc,type(kc))
     
print(x,y)
import matplotlib.pyplot as plt
plt.scatter(x,x,c=y,s=50,cmap="Paired");
plt.show()

結果:

技術分享圖片技術分享圖片
3. 用sklearn.cluster.KMeans,鳶尾花花瓣長度數據做聚類並用散點圖顯示.

#用sklearn.cluster.KMeans,鳶尾花花瓣長度數據做聚類並用散點圖顯示,鳶尾花完整數據做聚類並用散點圖顯示。
from sklearn.cluster import KMeans
import numpy as np
from sklearn.datasets import load_iris 
import matplotlib.pyplot as plt
data = load_iris()
iris = data.data
petal_len = iris[:,2:3]
print(petal_len)
k_means = KMeans(n_clusters=3) #三個聚類中心
result = k_means.fit(petal_len) #Kmeans自動分類
kc = result.cluster_centers_ #自動分類後的聚類中心
y_means = k_means.predict(petal_len) #預測Y值
plt.scatter(petal_len,np.linspace(1,150,150),c=y_means,marker=x)
plt.show()

結果:

技術分享圖片

4. 鳶尾花完整數據做聚類並用散點圖顯示.

from sklearn.cluster import KMeans
import numpy as np
from sklearn.datasets import load_iris 
import matplotlib.pyplot as plt
data = load_iris()
iris = data.data
petal_len = iris
print(petal_len)
k_means = KMeans(n_clusters=3) #三個聚類中心
result = k_means.fit(petal_len) #Kmeans自動分類
kc = result.cluster_centers_ #自動分類後的聚類中心
y_means = k_means.predict(petal_len) #預測Y值
plt.scatter(petal_len[:,0],petal_len[:,2],c=y_means,marker=x)
plt.show()

結果:

技術分享圖片

聚類--K均值算法