基于可擴(kuò)展對(duì)象的海量存儲(chǔ)系統(tǒng)研究.pdf

1、信息存儲(chǔ)是人類社會(huì)永恒的需求。隨著計(jì)算機(jī)技術(shù)的發(fā)展和應(yīng)用的普及，信息存儲(chǔ)容量成爆炸性地增長(zhǎng)，現(xiàn)有網(wǎng)絡(luò)存儲(chǔ)系統(tǒng)已無法滿足人們對(duì)于存儲(chǔ)的需要?；趯?duì)象存儲(chǔ)（Object-Based Storage，OBS）技術(shù)逢時(shí)崛起，利用現(xiàn)有的存儲(chǔ)組件、處理技術(shù)和網(wǎng)絡(luò)技術(shù)，通過簡(jiǎn)單方式來獲得前所未有的高吞吐量，成為下一代網(wǎng)絡(luò)存儲(chǔ)的主流。它采用包含數(shù)據(jù)和屬性的“對(duì)象”作為接口，既有了“塊”接口的快速，又有“文件”接口的便于共享，并分離了存儲(chǔ)數(shù)據(jù)的邏輯視圖和

2、物理視圖，將存儲(chǔ)數(shù)據(jù)的邏輯視圖保留在元數(shù)據(jù)服務(wù)器中，而物理數(shù)據(jù)存放在基于對(duì)象存儲(chǔ)設(shè)備（Object-Based Storage Device，OSD）中。同時(shí)，它將傳統(tǒng)文件分解為系列數(shù)據(jù)對(duì)象，分發(fā)到一個(gè)或多個(gè)OSD 中。雖然對(duì)象給存儲(chǔ)系統(tǒng)帶來了一種新的理念，但現(xiàn)有的與對(duì)象相關(guān)的存儲(chǔ)系統(tǒng)中對(duì)象都僅定義為非定長(zhǎng)的數(shù)據(jù)單位，束縛了“對(duì)象”這個(gè)有著豐富內(nèi)涵的詞匯。 基于可擴(kuò)展對(duì)象的海量存儲(chǔ)系統(tǒng)（Based on Scalable Obj

3、ect Mass StorageSystem，BSO-MSS）吸取了OBS 的優(yōu)點(diǎn)，在“對(duì)象”現(xiàn)有的含義基礎(chǔ)上擴(kuò)充，使它不僅只包括用戶數(shù)據(jù)，還將目錄、文件、存儲(chǔ)設(shè)備管理等納入對(duì)象之中，形成層次結(jié)構(gòu)的對(duì)象體系結(jié)構(gòu)，實(shí)現(xiàn)對(duì)象的分布存儲(chǔ)、層次管理的模式，并建立基于存儲(chǔ)對(duì)象統(tǒng)一訪問模式，將塊、對(duì)象和文件三種存儲(chǔ)接口進(jìn)行融合與統(tǒng)一。這樣不僅具有統(tǒng)一邏輯視圖、數(shù)據(jù)共享、主動(dòng)服務(wù)、并行訪問、統(tǒng)一存儲(chǔ)和易管理等特點(diǎn)，而且有著其他存儲(chǔ)結(jié)構(gòu)難以達(dá)到的高可擴(kuò)

4、展性和高性能。 通過建立系統(tǒng)廣義隨機(jī)Petri 網(wǎng)模型，對(duì)BSO-MSS 進(jìn)行性能評(píng)價(jià)，模擬結(jié)果顯示無論增加存儲(chǔ)對(duì)象（Storage Object，SO）還是客戶端，系統(tǒng)性能都隨之增加。并采用測(cè)試工具iozone 對(duì)系統(tǒng)原型與Lustre 系統(tǒng)作對(duì)比測(cè)試，測(cè)試結(jié)果表明寫性能超過Lustre，讀性能略比Lustre 好，并驗(yàn)證了BSO-MSS 的廣義隨機(jī)Petri 網(wǎng)模型。 首次將存儲(chǔ)系統(tǒng)與元胞自動(dòng)機(jī)相結(jié)合，利用元胞自動(dòng)機(jī)

5、的原理，解析BSO-MSS動(dòng)力演變規(guī)律。構(gòu)建了一個(gè)通用框架的BSO-MSSCA 概念模型框架，并在此基礎(chǔ)上，分析了兩種具體元胞自動(dòng)機(jī)模型。基于存儲(chǔ)對(duì)象負(fù)載分配模型是將SO 解析為元胞，模擬了一個(gè)簡(jiǎn)單的負(fù)載均衡分配的動(dòng)態(tài)變化，高度概括了BSO-MSS 的演變過程。 基于數(shù)據(jù)對(duì)象訪問行為模型則分析數(shù)據(jù)對(duì)象的訪問頻率對(duì)系統(tǒng)的影響，結(jié)合數(shù)據(jù)對(duì)象訪問的特征和主動(dòng)性，通過機(jī)械學(xué)習(xí)適當(dāng)調(diào)整數(shù)據(jù)對(duì)象的訪問行為頻率，使系統(tǒng)朝著穩(wěn)定方向發(fā)展。通過分

6、析基于存儲(chǔ)對(duì)象的負(fù)載分配模型和基于數(shù)據(jù)對(duì)象的訪問行為模型的演變過程，可以看出系統(tǒng)具有主動(dòng)性、共享性、并行性、相關(guān)性等特性，是一個(gè)自組織管理的對(duì)象存儲(chǔ)系統(tǒng)。 大規(guī)模分布式存儲(chǔ)系統(tǒng)中，元數(shù)據(jù)高性能服務(wù)、負(fù)載均衡以及擴(kuò)展性已成為一個(gè)重要的研究熱點(diǎn)。在元數(shù)據(jù)服務(wù)器中，將元數(shù)據(jù)分解為目錄對(duì)象和文件對(duì)象，目錄對(duì)象為定位性元數(shù)據(jù)，提供文件所在位置和訪問控制；文件對(duì)象為描述性元數(shù)據(jù)，描述文件的數(shù)據(jù)特性。每一個(gè)元數(shù)據(jù)服務(wù)器（Metadata Se

7、rver，MDS）負(fù)責(zé)所有目錄對(duì)象和自身的文件對(duì)象，這樣充分利用MDS 中Cache，提高Cache 的命中率，減少磁盤I/O 次數(shù)，而且能夠動(dòng)態(tài)擴(kuò)展MDS。同時(shí)，以目錄對(duì)象ID 和文件名為關(guān)鍵字的哈希值作為局部元數(shù)據(jù)查找表（Local Metadata Lookup Table，LMLT）的索引，獲得相應(yīng)的MDS_ID。一旦目錄權(quán)限改變、更名、移動(dòng)目錄、修改權(quán)限等都不會(huì)造成元數(shù)據(jù)的遷移。通過Bloom Filter 算法將每個(gè)MDS

8、的LMLT 壓縮成一個(gè)摘要，能夠?qū)崿F(xiàn)快速的元數(shù)據(jù)查找。同時(shí)采用主從備三重鏈?zhǔn)浇Y(jié)構(gòu)的MDS 服務(wù)，不僅在未提高硬件成本下能夠保證系統(tǒng)高可靠性和可用性，而且根據(jù)熱點(diǎn)訪問進(jìn)行遷移，實(shí)現(xiàn)負(fù)載均衡。SO 是BSO-MSS 重要組成單位，它與OSD 不同之處是本身具有“接口”與“狀態(tài)”標(biāo)識(shí)，由數(shù)據(jù)、屬性和方法組成，這樣對(duì)現(xiàn)有的T10 OSD 標(biāo)準(zhǔn)進(jìn)行了擴(kuò)充。由于數(shù)據(jù)對(duì)象是通常在一維空間中命名，傳統(tǒng)文件系統(tǒng)管理大量數(shù)據(jù)對(duì)象的效率是極其低，采用線性哈希

9、查找算法，由負(fù)載因子控制分裂和合并，與傳統(tǒng)文件系統(tǒng)的樹結(jié)構(gòu)查找相比，哈希法查找時(shí)間復(fù)雜度為O(1)。同時(shí)，針對(duì)Ext2 文件系統(tǒng)中數(shù)據(jù)訪問至少需兩次以上的磁盤操作特性，將數(shù)據(jù)的塊地址和長(zhǎng)度鏈接在一起，作為對(duì)象的擴(kuò)展屬性，連同數(shù)據(jù)對(duì)象一起存儲(chǔ)到磁盤中，這樣無論數(shù)據(jù)對(duì)象大小為多少，磁盤訪問次數(shù)僅為兩次。在BSO-MSS 中，負(fù)載與眾多因素相關(guān)，如請(qǐng)求隊(duì)列長(zhǎng)度、CPU 處理能力、內(nèi)存大小、網(wǎng)絡(luò)帶寬、磁盤帶寬和磁盤容量等。負(fù)載柔性放置策略不僅考