集成學習及其應用研究.pdf

1、集成學習(EnsembleLearning)是一種機器學習范式,是當前的研究熱點之一,在多個領(lǐng)域有了很好的應用。但集成學習技術(shù)還沒有成熟,在研究過程中仍然存在著眾多待解決的問題,在應用上也和人們期待的水平相去甚遠。
　　本文對集成學習進行了深入地研究,一方面分析了現(xiàn)有方法的優(yōu)劣。另一方面,研究了影響集成效果的各個因素,這為進一步改進集成學習做好鋪墊。在現(xiàn)有算法的研究基礎(chǔ)上,提出了新的集成學習方法:針對某些個體分類器對集成效果起較小

2、的作用或起消極作用的情況,本文提出了“基于信息增益的分類器選擇”方法,這種方法首先需要構(gòu)造分類器空間,然后計算個體分類器信息增益,根據(jù)信息增益刪除一個或若干個個體分類器,最后再將剩余的分類器集成,實驗結(jié)果表明經(jīng)過信息增益選擇分類器后的集成要優(yōu)于不進行處理的情況;針對數(shù)據(jù)集中不是所有的特征都對集成起積極作用的情況,本文提出了“基于改進遺傳算法的特征選擇”方法,該方法將機器學習應用到遺傳算法中,達到有效選擇特征的目的,然后在處理過的數(shù)據(jù)集上

3、使用集成學習,實驗證明經(jīng)過此方法處理的數(shù)據(jù)集不但在集成效果有了很大提高,而且大大縮短訓練時間。最后,本文還對集成學習的應用進行了研究,第一,詳細分析了入侵檢測數(shù)據(jù)集(KDDCUP99、UCI)。第二,對KDDCUP99做了適當?shù)奶幚?然后成功將集成學習方法應用到此數(shù)據(jù)集上。第三,比較了經(jīng)典的集成學習方法和本文提出的集成學習方法在入侵檢測數(shù)據(jù)集上的效果。
　　本文通過多次實驗和應用實例對提出的新方法進行了驗證,結(jié)果表明新方法是有效性