CV崗位面試題：K-means選擇初始點(diǎn)的方法有哪些,優(yōu)缺點(diǎn)是什么?

解析：

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??

KMeans是數(shù)據(jù)挖掘十大算法之一，在數(shù)據(jù)挖掘?qū)嵺`中，我們也常常將KMeans運(yùn)用于各種場(chǎng)景，因?yàn)樗砗?jiǎn)單、易于實(shí)現(xiàn)、適合多種數(shù)據(jù)挖掘情景。

如上圖所示，數(shù)據(jù)樣本用圓點(diǎn)表示，每個(gè)簇的中心點(diǎn)用叉叉表示：

(a)剛開始時(shí)是原始數(shù)據(jù)，雜亂無(wú)章，沒(méi)有l(wèi)abel，看起來(lái)都一樣，都是綠色的。

(b)假設(shè)數(shù)據(jù)集可以分為兩類，令K=2，隨機(jī)在坐標(biāo)上選兩個(gè)點(diǎn)，作為兩個(gè)類的中心點(diǎn)。

(c-f)演示了聚類的兩種迭代。先劃分，把每個(gè)數(shù)據(jù)樣本劃分到最近的中心點(diǎn)那一簇；劃分完后，更新每個(gè)簇的中心，即把該簇的所有數(shù)據(jù)點(diǎn)的坐標(biāo)加起來(lái)去平均值。這樣不斷進(jìn)行”劃分—更新—?jiǎng)澐帧隆?，直到每個(gè)簇的中心不在移動(dòng)為止。(圖文來(lái)自Andrew ng的機(jī)器學(xué)習(xí)公開課)。

初始中心點(diǎn)的選擇：

初始中心點(diǎn)的選擇最簡(jiǎn)單的做法是隨機(jī)從樣本中選K個(gè)作為中心點(diǎn)，但由于中心點(diǎn)的選擇會(huì)影響KMeans的聚類效果，因此我們可以采取以下三種方式優(yōu)化中心點(diǎn)的選?。?/pre>

1.多次選取中心點(diǎn)進(jìn)行多次試驗(yàn)，并用損失函數(shù)來(lái)評(píng)估效果，選擇最優(yōu)的一組；

2.選取距離盡量遠(yuǎn)的K個(gè)樣本點(diǎn)作為中心點(diǎn)：隨機(jī)選取第一個(gè)樣本C1作為第一個(gè)中心點(diǎn)，遍歷所有樣本選取離C1最遠(yuǎn)的樣本C2為第二個(gè)中心點(diǎn)，以此類推，選出K個(gè)初始中心點(diǎn)

3.特別地，對(duì)于像文本這樣的高維稀疏向量，我們可以選取K個(gè)兩兩正交的特征向量作為初始化中心點(diǎn)。