02-01 kNN.md

02-01 kNN (由K個最近的鄰居投票, K Nearest Neighbor)

使用資料集

UCI dataset
    |__ iris.csv (150筆)

本範例使用PyCharm

增加外掛模組:
numpy
sklearn
scipy

執行結果:

(1)main.py

import numpy as np
from sklearn.neighbors import KNeighborsClassifier

#--------------------------------------------------------------------------------------------
# 讀取鳶尾花資料
# 花萼長, 花萼寬, 花瓣長, 花瓣寬, 花種編號 (山鳶尾花:1, 變色鳶尾花:2, 維吉尼亞鳶尾花:3)
#--------------------------------------------------------------------------------------------
data=np.genfromtxt('data\iris.csv', delimiter=',')

#---------------------------
# 亂數重排資料
#---------------------------
np.random.shuffle(data)

#---------------------------
# 訓練資料個數
#---------------------------
tn=120

#---------------------------
# 訓練資料及標籤
#---------------------------
training_data  = data[:tn, [0,1,2,3]]
training_label = data[:tn, 4]

#---------------------------
# 測試資料及標籤
#---------------------------
testing_data  = data[tn:, [0,1,2,3]]
testing_label = data[tn:, 4]

#---------------------------
# 建立自動分類機器人
#---------------------------
knn = KNeighborsClassifier(n_neighbors=3)
knn.fit(training_data, training_label)

#---------------------------
# 分類機器人測試
#---------------------------
predict = knn.predict(testing_data)
print('預測:', predict)

#---------------------------
# 和正確資料比對
#---------------------------
results = testing_label == predict
print('比對:', results)

#---------------------------
# 正確率
#---------------------------
print('正確率:', np.sum(results)/len(results))

(2)iris.csv

5.1,3.5,1.4,0.2,1 
4.9,3.0,1.4,0.2,1 
4.7,3.2,1.3,0.2,1 
4.6,3.1,1.5,0.2,1 
5.0,3.6,1.4,0.2,1 
5.4,3.9,1.7,0.4,1 
4.6,3.4,1.4,0.3,1 
5.0,3.4,1.5,0.2,1 
4.4,2.9,1.4,0.2,1 
4.9,3.1,1.5,0.1,1 
5.4,3.7,1.5,0.2,1 
4.8,3.4,1.6,0.2,1 
4.8,3.0,1.4,0.1,1 
4.3,3.0,1.1,0.1,1 
5.8,4.0,1.2,0.2,1 
5.7,4.4,1.5,0.4,1 
5.4,3.9,1.3,0.4,1 
5.1,3.5,1.4,0.3,1 
5.7,3.8,1.7,0.3,1 
5.1,3.8,1.5,0.3,1 
5.4,3.4,1.7,0.2,1 
5.1,3.7,1.5,0.4,1 
4.6,3.6,1.0,0.2,1 
5.1,3.3,1.7,0.5,1 
4.8,3.4,1.9,0.2,1 
5.0,3.0,1.6,0.2,1 
5.0,3.4,1.6,0.4,1 
5.2,3.5,1.5,0.2,1 
5.2,3.4,1.4,0.2,1 
4.7,3.2,1.6,0.2,1 
4.8,3.1,1.6,0.2,1 
5.4,3.4,1.5,0.4,1 
5.2,4.1,1.5,0.1,1 
5.5,4.2,1.4,0.2,1 
4.9,3.1,1.5,0.1,1 
5.0,3.2,1.2,0.2,1 
5.5,3.5,1.3,0.2,1 
4.9,3.1,1.5,0.1,1 
4.4,3.0,1.3,0.2,1 
5.1,3.4,1.5,0.2,1 
5.0,3.5,1.3,0.3,1 
4.5,2.3,1.3,0.3,1 
4.4,3.2,1.3,0.2,1 
5.0,3.5,1.6,0.6,1 
5.1,3.8,1.9,0.4,1 
4.8,3.0,1.4,0.3,1 
5.1,3.8,1.6,0.2,1 
4.6,3.2,1.4,0.2,1 
5.3,3.7,1.5,0.2,1 
5.0,3.3,1.4,0.2,1 
7.0,3.2,4.7,1.4,2 
6.4,3.2,4.5,1.5,2 
6.9,3.1,4.9,1.5,2 
5.5,2.3,4.0,1.3,2 
6.5,2.8,4.6,1.5,2 
5.7,2.8,4.5,1.3,2 
6.3,3.3,4.7,1.6,2 
4.9,2.4,3.3,1.0,2 
6.6,2.9,4.6,1.3,2 
5.2,2.7,3.9,1.4,2 
5.0,2.0,3.5,1.0,2 
5.9,3.0,4.2,1.5,2 
6.0,2.2,4.0,1.0,2 
6.1,2.9,4.7,1.4,2 
5.6,2.9,3.6,1.3,2 
6.7,3.1,4.4,1.4,2 
5.6,3.0,4.5,1.5,2 
5.8,2.7,4.1,1.0,2 
6.2,2.2,4.5,1.5,2 
5.6,2.5,3.9,1.1,2 
5.9,3.2,4.8,1.8,2 
6.1,2.8,4.0,1.3,2 
6.3,2.5,4.9,1.5,2 
6.1,2.8,4.7,1.2,2 
6.4,2.9,4.3,1.3,2 
6.6,3.0,4.4,1.4,2 
6.8,2.8,4.8,1.4,2 
6.7,3.0,5.0,1.7,2 
6.0,2.9,4.5,1.5,2 
5.7,2.6,3.5,1.0,2 
5.5,2.4,3.8,1.1,2 
5.5,2.4,3.7,1.0,2 
5.8,2.7,3.9,1.2,2 
6.0,2.7,5.1,1.6,2 
5.4,3.0,4.5,1.5,2 
6.0,3.4,4.5,1.6,2 
6.7,3.1,4.7,1.5,2 
6.3,2.3,4.4,1.3,2 
5.6,3.0,4.1,1.3,2 
5.5,2.5,4.0,1.3,2 
5.5,2.6,4.4,1.2,2 
6.1,3.0,4.6,1.4,2 
5.8,2.6,4.0,1.2,2 
5.0,2.3,3.3,1.0,2 
5.6,2.7,4.2,1.3,2 
5.7,3.0,4.2,1.2,2 
5.7,2.9,4.2,1.3,2 
6.2,2.9,4.3,1.3,2 
5.1,2.5,3.0,1.1,2 
5.7,2.8,4.1,1.3,2 
6.3,3.3,6.0,2.5,3 
5.8,2.7,5.1,1.9,3 
7.1,3.0,5.9,2.1,3 
6.3,2.9,5.6,1.8,3 
6.5,3.0,5.8,2.2,3 
7.6,3.0,6.6,2.1,3 
4.9,2.5,4.5,1.7,3 
7.3,2.9,6.3,1.8,3 
6.7,2.5,5.8,1.8,3 
7.2,3.6,6.1,2.5,3 
6.5,3.2,5.1,2.0,3 
6.4,2.7,5.3,1.9,3 
6.8,3.0,5.5,2.1,3 
5.7,2.5,5.0,2.0,3 
5.8,2.8,5.1,2.4,3 
6.4,3.2,5.3,2.3,3 
6.5,3.0,5.5,1.8,3 
7.7,3.8,6.7,2.2,3 
7.7,2.6,6.9,2.3,3 
6.0,2.2,5.0,1.5,3 
6.9,3.2,5.7,2.3,3 
5.6,2.8,4.9,2.0,3 
7.7,2.8,6.7,2.0,3 
6.3,2.7,4.9,1.8,3 
6.7,3.3,5.7,2.1,3 
7.2,3.2,6.0,1.8,3 
6.2,2.8,4.8,1.8,3 
6.1,3.0,4.9,1.8,3 
6.4,2.8,5.6,2.1,3 
7.2,3.0,5.8,1.6,3 
7.4,2.8,6.1,1.9,3 
7.9,3.8,6.4,2.0,3 
6.4,2.8,5.6,2.2,3 
6.3,2.8,5.1,1.5,3 
6.1,2.6,5.6,1.4,3 
7.7,3.0,6.1,2.3,3 
6.3,3.4,5.6,2.4,3 
6.4,3.1,5.5,1.8,3 
6.0,3.0,4.8,1.8,3 
6.9,3.1,5.4,2.1,3 
6.7,3.1,5.6,2.4,3 
6.9,3.1,5.1,2.3,3 
5.8,2.7,5.1,1.9,3 
6.8,3.2,5.9,2.3,3 
6.7,3.3,5.7,2.5,3 
6.7,3.0,5.2,2.3,3 
6.3,2.5,5.0,1.9,3 
6.5,3.0,5.2,2.0,3 
6.2,3.4,5.4,2.3,3 
5.9,3.0,5.1,1.8,3