連續(xù)屬性離散化和LMS算法相關(guān)研究.pdf

1、連續(xù)屬性離散化是數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)研究及應(yīng)用中的一個(gè)重要方面。在很多規(guī)則提取、特征分類算法中,連續(xù)(實(shí)值)屬性必須進(jìn)行離散化。連續(xù)屬性離散化就是在特定的連續(xù)屬性的值域范圍內(nèi)選取若干個(gè)離散劃分點(diǎn),將屬性的值域劃分為一些離散的區(qū)間,最后用不同的符號(hào)或整數(shù)值代表落在每個(gè)子區(qū)間中的屬性值。連續(xù)屬性離散化的過(guò)程,從實(shí)質(zhì)上來(lái)說(shuō),就是用特定的閾值來(lái)對(duì)連續(xù)的屬性空間進(jìn)行劃分的過(guò)程。離散化算法的關(guān)鍵在于如何獲得最優(yōu)劃分,最大程度地保持信息表示的意義,減少

2、信息損失。1982年波蘭科學(xué)家Pawlak提出了粗糙集[1](Rough Set)理論,該理論通常被用來(lái)處理不確定知識(shí),在數(shù)據(jù)分析、數(shù)據(jù)挖掘等領(lǐng)域得到了普遍地應(yīng)用,傳統(tǒng)粗糙集理論只能對(duì)數(shù)據(jù)庫(kù)中離散的屬性進(jìn)行處理,倘若某些條件屬性或決策屬性的值域?yàn)檫B續(xù)值,在處理前必須經(jīng)過(guò)離散化。本文從粗糙集的觀點(diǎn)出發(fā),在保證條件屬性和決策屬性相對(duì)關(guān)系不變下,提出了一種新的區(qū)間分割的方法連續(xù)屬性離散化算法實(shí)驗(yàn)結(jié)果與理論證明了算法的實(shí)效性。
　　 近

3、年來(lái)由于人工神經(jīng)網(wǎng)絡(luò)(ANN)獨(dú)特的信息處理和計(jì)算能力,人們對(duì)它給予了更多的關(guān)注。人工神經(jīng)網(wǎng)絡(luò)是一種解決實(shí)際工程問(wèn)題的有效工具,由于隱藏單元已經(jīng)引入了人工神經(jīng)網(wǎng)絡(luò),所以它已經(jīng)具有了更強(qiáng)的分類和記憶能力。本文通過(guò)對(duì)BP模型構(gòu)建輸入向量之間的非線性關(guān)系,偏差和學(xué)習(xí)步驟,提出了一個(gè)新的基于神經(jīng)網(wǎng)絡(luò)控制的變步長(zhǎng)LMS算法。該算法采用一種新的自適應(yīng)步長(zhǎng)控制技術(shù),在新算法中,其學(xué)習(xí)的步驟是通過(guò)BP神經(jīng)網(wǎng)絡(luò)控制,可用于具有自適應(yīng)濾波應(yīng)用的理想的功能得

4、以明顯體現(xiàn)出來(lái)。仿真實(shí)驗(yàn)表明BP—LMS算法確實(shí)可以有效減少收斂時(shí)間并達(dá)到滿意的效果。
　　 本文從以下4個(gè)內(nèi)容方面展開(kāi)工作:
　　 1>介紹了離散化研究的背景、粗糙集理論、神經(jīng)網(wǎng)絡(luò)理論以及本文的組織結(jié)構(gòu)。
　　 2>介紹連續(xù)屬性離散化的過(guò)程,并對(duì)離散化算法的研究現(xiàn)狀進(jìn)行了綜合探討。
　　 3>提出了一種基于粗糙集理論的連續(xù)屬性離散化新算法,通過(guò)C4.5和支持向量機(jī)分別對(duì)離散化后的數(shù)據(jù)進(jìn)行識(shí)別與分類預(yù)測(cè)。