??機器學(xué)習(xí)算法1——k近鄰法

核心

• 某種距離的概念
• 假設(shè)彼此接近的點具有相似性質(zhì)

模型

• 距離某個點最近的k個點與該點屬于同一分類

關(guān)鍵要素：距離度量、參考點數(shù)量（即k值）、分類決策規(guī)則（一般是少數(shù)服從多數(shù)）

步驟

1.根據(jù)距離度量和k值計算待分類點x的鄰域N_k(x)

法1：一個一個點算距離，取前k個作為鄰域

法2：kd樹法

不需要對每個樣本計算距離，更省時間

2.根據(jù)分類決策規(guī)則計算x的樣本類別y

總結(jié)