基于圖的半監(jiān)督分類算法研究.pdf

1、在許多機器學習的實際任務中，獲得足夠的有標記樣本是非常昂貴和費時的，而大量的未標記樣本容易獲得。在少量有標記樣本上使用監(jiān)督式學習方法，訓練出的學習器泛化能力不強，容易出現(xiàn)過擬合現(xiàn)象。另一方面，當使用無監(jiān)督式學習方法時，會極大地浪費有標記樣本包含的標簽信息。半監(jiān)督學習能夠綜合利用有標記樣本和無標記樣本來提高學習器的泛化能力，已經(jīng)得到了廣泛的研究與應用?；趫D的半監(jiān)督分類算法因為分類性能好、目標函數(shù)是凸函數(shù)、求解容易等優(yōu)勢獲得了更多的關注。

2、圖構造是基于圖的半監(jiān)督分類的重要前提工作，圖是決定基于圖的半監(jiān)督分類性能的關鍵因素之一。然而，如何構造一個能夠真實地反映樣本分布的圖是相當困難的。稀疏表示最近被應用于圖構造，基于稀疏表示構造的圖對高維樣本中的噪聲特征表現(xiàn)魯棒。但是，傳統(tǒng)稀疏表示構造圖采用全部樣本作為字典集，時間花費大。此外，流形假設是基于圖的半監(jiān)督分類的基本假設之一。它的定義是：同一個局部鄰域內(nèi)的樣本具有相似的性質(zhì)，因此其標記也應該相似。然而，當兩個樣本相互靠近，跨越不

3、同類別的邊界時，流形假設可能不總適用。結果，僅僅基于流形假設的分類方法可能誤分邊界樣本。
　　針對基于圖的半監(jiān)督分類算法存在的上述問題，本文在現(xiàn)有研究成果基礎上，提出三種基于圖的半監(jiān)督分類算法。論文的具體工作如下：
　?。?）提出一種基于局部稀疏表示的半監(jiān)督分類算法（SSC-LSR）。SSC-LSR首先使用樣本的k近鄰作為字典集去計算每個樣本的稀疏重構系數(shù)，而不是將所有可用樣本作為字典集，再基于這些稀疏重構系數(shù)構造一個局部稀

4、疏表示圖。最后在這個圖上訓練廣泛使用的高斯隨機場與和諧函數(shù)（GFHF）分類器，預測未標記樣本的標記。在兩個公共人臉數(shù)據(jù)集上的實驗結果表明，SSC-LSR分類精度比傳統(tǒng)方法高。
　　（2）提出一種基于局部子空間稀疏表示的半監(jiān)督分類算法（SSC-LSSR）。SSC-LSSR首先把樣本分成若干個隨機子空間，在每個隨機子空間上構造局部稀疏表示圖。然后，在構造的圖上訓練一個基于圖的半監(jiān)督分類器。最后把這些分類器通過投票策略集成一個分類器，預

5、測未標記樣本或新來樣本的標記。在兩個公共人臉數(shù)據(jù)集上的實驗結果表明，SSC-LSSR分類精度比相關方法高，并且時間花費較少。
　?。?）提出一種基于判別性正則化的半監(jiān)督分類算法（SSCDR）。SSCDR首先分別構造一個k近鄰圖來捕捉樣本的局部流形結構，和一個判別圖來嵌入約束聚類學習的判別性信息。然后將兩個圖納入設計的判別性正則化框架，預測未標記樣本或新來樣本的標記。在UCI和人臉數(shù)據(jù)集上的實驗結果表明，SSCDR分類精度比相關方法