基于不完整數(shù)據處理方法的貝葉斯分類器研究.pdf

1、隨著數(shù)據庫、數(shù)據倉庫以及Internet技術的應用發(fā)展，使得數(shù)據挖掘(DataMining)和知識發(fā)現(xiàn)(Knowledge Discovery)引起了大量學者與專家的關注，越來越顯示出其強大的生命力。分類是數(shù)據挖掘中一項十分重要的任務，目的是找出分類函數(shù)或者分類模型。貝葉斯網絡作為一種有效的知識表示方式和概率推理模型，是處理不確定信息的強有力圖形決策化分析工具。近年來，基于貝葉斯網絡的數(shù)據挖掘取得了良好的效果，成為研究熱點。

2、本文首先闡述了數(shù)據挖掘和數(shù)據挖掘中分類的主要的方法，介紹分析了現(xiàn)有的分類方法的定義以及作法，著重介紹了貝葉斯分類技術。貝葉斯網絡G=(B<,s>，B<,p>)是一個帶有概率注釋的有向無環(huán)圖，由網絡的拓撲結構B<,s>和局部概率分布B<,p>兩部分組成。它是以貝葉斯定理、最大后驗假設、貝葉斯網絡理論為基礎的。用于分類的貝葉斯網絡叫做貝葉斯分類器。貝葉斯分類器是特殊形式的貝葉斯網絡，變量的選取和狀態(tài)數(shù)均已確定，屬性結點已知，類結點未知。貝葉

3、斯分類器的學習包括結構學習，參數(shù)學習和最大后驗概率類結點的推理。 由于在大部分的分類系統(tǒng)能夠有效地學習是基于這樣一個前提：用于訓練和測試的數(shù)據集是完整的，或者只有很少的特征值是不完整的，而且這些缺失值均勻分布于樣本中。事實上，由于各種原因，在許多現(xiàn)實數(shù)據庫中都存在丟失數(shù)據的現(xiàn)象，人們所能收集到的大量信息往往是不完全的(incomplete)或者稱之為缺失的(missing)數(shù)據。數(shù)據的缺失可能與某些屬性特征值的狀態(tài)有關，這時缺失

4、的數(shù)據中蘊含著一定的信息量。大部分的分類器在處理這一類的數(shù)據集中，將所有的缺失值作為一個單獨的值來處理，這勢必會影響到分類系統(tǒng)的準確性。因此對于缺失數(shù)據的取值或取值趨勢進行預測和估計都是非常重要的，在解決實際問題時必須對缺失數(shù)據進行正確、有效的處理。貝葉斯網絡具有將先驗知識和樣本數(shù)據結合起來進行推理的優(yōu)點，因此在處理缺失數(shù)據問題時，貝葉斯方法是一個強有力的工具。 本文主要工作從以下三個方面展開： (1)歸納簡述了貝葉斯網

5、絡的理論基礎，對當前貝葉斯分類領域的研究成果進行分析，主要是樸素貝葉斯分類器NBC，樹擴展樸素貝葉斯分類器TAN。 (2)闡述和分析了不完整數(shù)據的定義、不完整數(shù)據的產生機制以及處理準則，對當前處理不完整數(shù)據的研究成果進行分析；提出了利用Robust Estimate算法和EM算法相結合處理不完整數(shù)據的方法。 (3)針對處理缺失數(shù)據的分類問題，建立了幾種處理缺失數(shù)據的貝葉斯分類器模型，其中一個重要的處理模型是利用Robu