集成異種分類器分類稀有類.pdf

1、對于許多實際應用，稀有類分類問題都非常重要。而稀有類樣本的數(shù)量稀少使得很難使用傳統(tǒng)的分類器對它們準確分類。由于稀有類問題的特殊性、復雜性及難解性，目前研究稀有類問題的專用算法不多。 本文主要研究集成異種分類器分類稀有類問題。由于數(shù)據(jù)的高度傾斜，很多傳統(tǒng)分類算法在稀有類上效果不佳。本文使用一種新的集成方法，稱為EDKC(Ensemble of Different Kind of Classifiers)，用來分類稀有類。EDKC集

2、成不同的分類器形成組合分類器，并且通過加權投票表決對未知樣本進行分類。在UCI機器學習數(shù)據(jù)庫的多個稀有類數(shù)據(jù)集上的實驗結果表明，EDKC對稀有類分類不僅具有較高的F-度量值，能達到目標類召回率和精度的平衡，而且能夠取得很高的分類準確率。 集成學習方法是從機器學習領域逐漸發(fā)展起來的用于提升弱分類器分類準確率的技術，被認為是近十年來提出的最有效的學習思想之一。與單個算法相比，集成學習不容易出現(xiàn)過適應現(xiàn)象。本文使用一種新的集成技術，它

3、不同于bagging和boosting集成技術，因為它們只能集成用相同分類算法建立的分類器；而這種新的集成技術可以集成不同分類算法建立的分類器。所以這種集成技術更能綜合多種分類模型的優(yōu)點，得到更好的分類效果。 集成的基礎是多種分類算法在數(shù)據(jù)集上的誤分類樣本不同，但是我們進一步研究發(fā)現(xiàn)，數(shù)據(jù)集中有一些樣本，是多種分類器都不能正確分類的。數(shù)據(jù)集中一些多個分類算法都不能正確分類的樣本對分類算法建立分類模型時存在不利影響，本文中稱這些不