可擴展的分布式元數(shù)據(jù)管理系統(tǒng)設(shè)計.pdf

可擴展的分布式元數(shù)據(jù)管理系統(tǒng)設(shè)計.pdf

ID:55320510

大?。?.12 MB

頁數(shù):8頁

時間:2020-05-14

可擴展的分布式元數(shù)據(jù)管理系統(tǒng)設(shè)計.pdf_第1頁
可擴展的分布式元數(shù)據(jù)管理系統(tǒng)設(shè)計.pdf_第2頁
可擴展的分布式元數(shù)據(jù)管理系統(tǒng)設(shè)計.pdf_第3頁
可擴展的分布式元數(shù)據(jù)管理系統(tǒng)設(shè)計.pdf_第4頁
可擴展的分布式元數(shù)據(jù)管理系統(tǒng)設(shè)計.pdf_第5頁
資源描述:

《可擴展的分布式元數(shù)據(jù)管理系統(tǒng)設(shè)計.pdf》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、第41卷第5期計算機工程2015年5月Vo1.41No.5ComputerEngineeringMav2015·先進計算與數(shù)據(jù)處理·文章編號:1000.3428(2015)05.0026-07文獻標識碼:A中圖分類號:TP311可擴展的分布式元數(shù)據(jù)管理系統(tǒng)設(shè)計黃秋蘭,程耀東,杜然,陳剛(中國科學院高能物理研究所計算中心,北京100049)摘要:為解決高能物理海量存儲系統(tǒng)由于存儲規(guī)模不斷擴大所面臨的問題,設(shè)計一種分布式元數(shù)據(jù)管理系統(tǒng),包括元數(shù)據(jù)管理、元數(shù)據(jù)服務、緩存服務以及監(jiān)控信息采集4個部分,在此基礎(chǔ)上提出自適應目錄子樹劃分算法,以目錄為粒度進行元數(shù)據(jù)劃分,根據(jù)

2、集群負載情況調(diào)整目錄子樹,實現(xiàn)元數(shù)據(jù)信息在元數(shù)據(jù)集群中的合理存儲和分布。實驗結(jié)果證明,該算法能提高元數(shù)據(jù)的訪問和檢索性能,提供可擴展及動態(tài)負載均衡的元數(shù)據(jù)服務,以保證該元數(shù)據(jù)管理系統(tǒng)的可用性、擴展性及I/O性能不會因存儲規(guī)模擴大而受到影響,滿足高能物理實驗日益增長的存儲需求。關(guān)鍵詞:元數(shù)據(jù)管理;動態(tài);可擴展;元數(shù)據(jù)分布;Ceph文件系統(tǒng);Gluster文件系統(tǒng);Lustre文件系統(tǒng)中文引用格式:黃秋蘭,程耀東,杜然,等.可擴展的分布式元數(shù)據(jù)管理系統(tǒng)設(shè)計[J].計算機工程,2015,41(5):26—32.37.英文引用格式:HuangQiulan,ChengYa

3、odong,DuRan,eta1.DesignofScalableDistributedMetadataManagementSystem[J].ComputerEngineering,2015,41(5):26—32,37.DesignofScalableDistributedMetadataManagementSystemHUANGQiulan,CHENGYaodong,DURan,CHENGang(ComputingCenter,InstituteofHighEnergyPhysics,ChineseAcademyofSciences,Beijing1000

4、49,China)【Abstract】Tosolvetheproblemscausedbythestorageexpandinginhighenergyphysicsmassstoragesystem,ascalabledistributedmetadatamanagementsystemisdesigned,whichincludesmetadatamanagement,metadataservice,cacheserviceandmonitoringinformationcollector.Basedonit,anewAdaptiveDirectorySub

5、—treePartition(ADSP)algorithmisproposed.ADSPdividesthefilesystemnamespaceintosub—treeswithdirectorygranularityandadjustssub—treesadaptivelyaccordingtotheloadofmetadataclusterforachievingthestorageanddistributionofmetadataincluster.Experimentalresultsshowthatthealgorithmcanimprovethem

6、etadataaccessandretrievalperformance,providesascalableanddynamicloadbalancingofmetadataservicetoensuretheavailability,scalabilityandI/Operformanceofmetadatamanagementsystemisnotaffectedbythestoragescale,therebyitcanmeetthegrowingstoragerequirementsofhighenergyphysicsexperiments.【Keyw

7、ords】metadatamanagement;dynamic;scalability;metadatadistribution;Cephfilesystem;Glusterfilesystem;LustrefilesystemDOI:10.3969/j.issn.1000—3428.2015.05.005高能物理實驗規(guī)模的不斷擴大和實驗復雜性的不1概述斷增加,高能物理實驗數(shù)據(jù)將急劇增長,海量存儲在大規(guī)模數(shù)據(jù)存儲系統(tǒng)中,元數(shù)據(jù)描述了一個系統(tǒng)的元數(shù)據(jù)面臨以下3個問題:(1)元數(shù)據(jù)的可文件系統(tǒng)的邏輯結(jié)構(gòu),如名字空間、文件和目錄的擴展性;(2)元數(shù)據(jù)的檢索和遍歷性能;

8、(3)元數(shù)據(jù)屬性及邏輯名

當前文檔最多預覽五頁,下載文檔查看全文

此文檔下載收益歸作者所有

當前文檔最多預覽五頁,下載文檔查看全文
溫馨提示:
1. 部分包含數(shù)學公式或PPT動畫的文件,查看預覽時可能會顯示錯亂或異常,文件下載后無此問題,請放心下載。
2. 本文檔由用戶上傳,版權(quán)歸屬用戶,天天文庫負責整理代發(fā)布。如果您對本文檔版權(quán)有爭議請及時聯(lián)系客服。
3. 下載前請仔細閱讀文檔內(nèi)容,確認文檔內(nèi)容符合您的需求后進行下載,若出現(xiàn)內(nèi)容與標題不符可向本站投訴處理。
4. 下載文檔時可能由于網(wǎng)絡波動等原因無法下載或下載錯誤,付費完成后未能成功下載的用戶請聯(lián)系客服處理。