Machine-learning-Python-/Main_randomSample_Classifier_Dimension.py at master · TommyHuang821/Machine-learning-Python- · GitHub

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
import numpy as np # import numpy lib (矩陣運算用)
import matplotlib.pyplot as plt # (畫圖用)
# MachineLearning 我自己寫的lib
from MachineLearning import Classifier
from MachineLearning import DimensionReduction # 降維度
'''
 產生兩組2維資料，各100個點
 第一組群心[0,1]
 coveriance matrix ([0.1 0.1]
                    [0.2 0.3])
  第一組群心[2,2]
 coveriance matrix ([0.1 0.1]
                    [0.2 0.3])
'''
mean=[0,1]
cov=[[0.1,0.1],[0.2,0.3]]
d1=np.random.multivariate_normal(mean, cov, 100)

mean=[2,2]
cov=[[0.1,0.1],[0.2,0.3]]
d2=np.random.multivariate_normal(mean, cov, 100)

data=np.concatenate((d1,d2),axis=0) # 把資料合起來
del d1, d2   #刪掉不要的變數

# 將兩組資料給label，第一組是1，第二組是2
label=(np.ones([200]))
label[100:201]=2


'''
這邊做降維，因為是demo，所以不會將投影的資料拿去分類用
'''
# 宣告一個降維的原件叫DR
DR=DimensionReduction.DimensionReduction()
# PCA
coe_PC, xdata=DR.PCA(data)
# LCA/DAFE
coe_DAFE, xdata_DAFE=DR.DAFE(data,label)


'''
這邊是分類器
'''
# 宣告一個GaussianClassifier的原件叫QDC,且要將資料塞進去
QDC=Classifier.Classifier.QDC()
QDC.QDC_train(data,label) # training GaussianClassifier
p=QDC.QDC_test(data) # testing GaussianClassifier, 輸出是機率
PL_QDC = np.argmax(p,axis=1)+1 # PL_QDC是分類器預測的類別

# 宣告一個GaussianClassifier的原件叫NBC,且要將資料塞進去
NBC=Classifier.Classifier.NBC()
NBC.NBC_train(data,label)
p=NBC.NBC_test(data) # PL_NBC是分類器預測的類別
PL_NBC = np.argmax(p,axis=1)+1 # PL_QDC是分類器預測的類別

# 畫圖
plt.figure(1) # 開一張圖
plt.subplot(321) # 這個寫法等於MATLAB的subplot(3,2,1)
plt.scatter(data[label==1,0],data[label==1,1],color="b",marker=r'$\bigodot$', alpha=0.5)
plt.scatter(data[label==2,0],data[label==2,1],color="r",marker=r'$\bigodot$', alpha=0.5)
plt.title('Original data')

plt.subplot(322)
plt.scatter(data[label==1,0],data[label==1,1],color="b",marker=r'$\bigodot$', alpha=0.5)
plt.scatter(data[label==2,0],data[label==2,1],color="r",marker=r'$\bigodot$', alpha=0.5)
plt.scatter(data[PL_QDC==1,0],data[PL_QDC==1,1],color="b", marker='x')
plt.scatter(data[PL_QDC==2,0],data[PL_QDC==2,1],color="r", marker='x')
plt.title('+:QDC result')

plt.subplot(323)
plt.scatter(data[label==1,0],data[label==1,1],color="b",marker=r'$\bigodot$', alpha=0.5)
plt.scatter(data[label==2,0],data[label==2,1],color="r",marker=r'$\bigodot$', alpha=0.5)
plt.scatter(data[PL_NBC==1,0],data[PL_NBC==1,1],color="b", marker='x', alpha=0.5)
plt.scatter(data[PL_NBC==2,0],data[PL_NBC==2,1],color="r", marker='x', alpha=0.5)
plt.title('+NBC result')
plt.subplot(324)
plt.scatter(xdata[label==1,0],xdata[label==1,1],color="b",marker=r'$\bigodot$')
plt.scatter(xdata[label==2,0],xdata[label==2,1],color="r",marker=r'$\bigodot$')
plt.title('PCA Projection')
plt.subplot(325)
plt.scatter(xdata_DAFE[label==1,0],xdata_DAFE[label==1,1],color="b",marker=r'$\bigodot$')
plt.scatter(xdata_DAFE[label==2,0],xdata_DAFE[label==2,1],color="r",marker=r'$\bigodot$')
plt.title('LDA Projection')
plt.show()