Hadoop下基于分類和關聯(lián)規(guī)則的公安數(shù)據挖掘研究.pdf

1、隨著警務信息化建設的力度逐年增大，公安內部累積了海量的業(yè)務數(shù)據，越來越多的公安科技部門發(fā)現(xiàn)，傳統(tǒng)的數(shù)據庫技術已經出現(xiàn)疲軟，相關情報研判和案件偵破的速度與智慧城市之間的矛盾日益突出，智慧公安成為緩解這一矛盾的關鍵。公安大數(shù)據挖掘技術是實現(xiàn)智慧公安的基礎，高效、準確的大數(shù)據分析技術對公安部門的警情分析、預警、犯罪預測等具有重要意義。近幾年，由于Hadoop強大的存儲技術和計算能力，使其在全球范圍內得到了飛速發(fā)展，這也為公安大數(shù)據挖掘提供了新

2、的契機。
　　論文在大量查閱國內外文獻，深入研究公安數(shù)據特性及數(shù)據挖掘算法的基礎上，根據公安科技部門的實際需求，對公安大數(shù)據挖掘中的文本分類和關聯(lián)規(guī)則進行了重點研究，提出了差分多層KNN分類算法和基于規(guī)則加權的多數(shù)據集時態(tài)關聯(lián)規(guī)則算法，并通過實驗驗證了算法的有效性。為此，論文的研究內容主要集中在以下幾點:
　　(1)提出了一種基于分層和差分的改進算法——DMKNN算法。針對KNN算法在處理公安數(shù)據時無效計算量大的問題，改進后

3、的算法對訓練數(shù)據集構建樹狀分層結構，僅對高層篩選后的訓練集進行相似度計算，同時針對大數(shù)據量下的類域交叉性特點，采用了差分和動態(tài)增加類別的方法來有效的防止最近鄰和次近鄰的誤判情況，實驗結果表明該算法與傳統(tǒng)KNN算法相比在對樣本容量大，涉及鄰域多的公安數(shù)據進行分類時能取得較好的分類效果。
　　(2)實現(xiàn)了Hadoop平臺下的DMKNN文本分類算法。結合文本分類并行化方案，實現(xiàn)了DMKNN分類算法的MapReduce并行化，最后進行了基

4、于DMKNN算法的公安情報并行化分類實驗，實驗證明并行化后的改進算法具有很好的加速比性能。
　　(3)提出了基于規(guī)則加權的多數(shù)據集時態(tài)關聯(lián)規(guī)則算法。首先將各個子數(shù)據集中的時態(tài)關聯(lián)規(guī)則的時態(tài)因素分別進行區(qū)間歸并和延展，并利用有效投票率對規(guī)則進行剪輯，然后對剪輯后的各個同類子數(shù)據庫中的規(guī)則進行加權合成來得到最終提交的全局時態(tài)關聯(lián)規(guī)則，隨后以實例分析的方式實現(xiàn)了算法的挖掘過程。最后的犯罪預測實驗證明該算法不僅可以用于不同數(shù)據庫間的關聯(lián)挖