您的當前位置: 首頁 > 新聞中心 > 行業知識 > 什么是分布式存儲?技術有哪些?與傳統存儲的區別

什么是分布式存儲?技術有哪些?與傳統存儲的區別

1、分布式存儲

分布式存儲系統(Distributed Storage System,DSS),也指分布式文件系統(Distributed File System,DFS)。分布式存儲,從原理上講,是將數據文件分散地存儲到集群服務器上,而構建集群的服務器往往由低成本的商用硬件組成。用戶利用系統提供的接口方便、快捷地訪問存儲系統,系統內部通過軟件和硬件共同協作完成用戶操作指令。

分布式存儲

2、分布式存儲技術

(1)網絡存儲技術

①網絡連接存儲(Network Attached Storage,NAS)

NAS主要組件包括NAS頭和存儲陣列,NAS頭主要由四個部分組成,包括網絡接口、 文件共享協議、 專用的操作系統以及底層的存儲接口。存儲可以位于NAS內部,也可以獨立于NAS作為單獨的存儲陣列存在??蛻舳擞脩艨梢酝ㄟ^專有的文件共享協議,如Windows用戶可以利用CIFS協議、Unix用戶利用NFS協議,經過普適的IP網絡訪問NAS設備上的存儲資源。NAS頭部在接收到用戶的文件訪問I/O后,通過其內部專用的操作系統將其轉換為數據塊I/O,并結合操作系統記錄的文件位置,進行文件的存取工作。

優點:提高傳統存儲環境的擴展性,并且整合服務器和存儲資源以進行統一管理,簡化管理任務

缺點:無法滿足高性能要求,不適合于對存儲介質進行復雜操作的任務

②存儲區域網絡(Storage Area Network,SAN)

根據數據在服務器和存儲設備之間傳輸協議的不同,SAN主要分為光纖通道SAN和IP SAN兩種類型,SAN主要由服務器、 存儲設備以及網絡連接三部分構成。服務器通過網絡連接和常見的串行SCSI協議FCP(Fiber Channel Protocol),來遠程訪問存儲設備上的數據資源。SAN將應用與存儲分離,在降低了應用存儲耦合的基礎上,分離了兩者的管理工作。在光纖通道SAN中,服務器與存儲設備的連接渠道包括集線器,交換機和導向器,通過專門搭建的基于光纖通道的網絡,能夠實現數據的穩定、高速傳輸。而在IP SAN中,數據傳輸的渠道是通用的IP 網絡,可以利用現有的網絡連接迅速構建簡易的IP SAN,方便靈活。

優缺點:基于光纖通道的SAN由于需要搭建專用的網絡,成本高昂,維護難度較大,并且性能也與現有IP SAN相差無幾,無法體現出自身的性能優勢;而IP SAN受限于傳統IP網絡的性能和穩定性,無法達到光纖通道SAN的高速、穩定的特性。

(2)分布式文件系統

①Google File System(GFS)

GFS是Google公司云計算基礎設施中負責分布式數據管理的重要子系統,是一個面向大規模分布式環境的、 高可用、 高可靠、 高可擴展性的分布式文件系統,用于對大量數據的存儲和管理。

②Hadoop File System(HDFS)

GFS源于Google公司自身的業務和應用服務要求,其具體的工程實現細節并未完全公布。研究人員根據GFS論文的核心設計思想,在Amazon、Yahoo 等IT 巨擘的牽頭下,設計了一種新的面向分布式環境、高可靠性、高性能的分布式文件系統HDFS。該文件系統最初是作為Apache Nutch搜索引擎工程的底層基礎架構而研發的,屬于Apache Hadoop Core項目的重要組成部分,主要用于數據的分布式存儲以及計算任務。

③Ceph

Ceph是一種新的、開源分布式文件系統,是Sage Weil在加州大學圣克魯茲分校攻博期間負責的關于存儲研究的項目,用于面向高性能、高可靠性、大規模的分布式環境。Ceph的生態系統包括四個組成部分,它們是客戶端(Client)、元數據服務器(Metadata server cluster)、對象存儲集群(Object storage cluster)和集群監視器(Cluster monitors),目前Ceph已經被用于實際生產環境中,許多大型IT及互聯網公司,如華為、沃爾瑪、Bloomberg、AT&T,eBay等均將Ceph用于其分布式文件系統以及存儲系統的構建。

(3)P2P存儲技術

在P2P存儲中,所有節點地位均等,既可以是客戶機,也可以是服務器。每個節點可以同時提供存儲服務和訪問其他節點的存儲服務,打破了節點角色的壁壘,充分利用了節點自身的存儲和計算資源?,F有P2P存儲技術主要包括OceanStore、PAST、CFS、Dynamo。

(4)新型存儲技術

①基于對象的存儲(Object-based Storage Devices,OSD)

OSD系統通常由三個組件構成,它們分別是OSD節點、 內部私有網絡以及存儲系統。OSD節點主要負責元數據服務和存儲服務,不僅如此,它還負責維護對象ID與文件系統域名空間的映射關系。內部網絡保證了節點與存儲系統、多節點之間的互聯互通。存儲系統通常由廉價、高密度磁盤組成,用于存儲對象。

②統一存儲

一個統一存儲系統主要包括底層存儲系統、存儲控制器、NAS機頭、OSD節點以及相應的訪問協議。存儲控制器可以通過iSCSI、FC和FCoE協議,為應用服務器提供基于塊級的數據存儲和訪問。NAS機頭通過CIFS和NFS協議,可以為NAS 用戶提供文件級的存儲和訪問服務。OSD節點通過REST和SOAP協議,以及對應的API為應用服務器提供對象級別的訪問服務。應用服務器或者用戶無需知曉底層實現細節,只需要根據數據訪問的粒度,選擇合適的協議就可以在統一存儲的平臺中進行數據的讀寫,方便快捷?,F有的統一存儲產品,如EMC VNX、Huawei OceanStor T系列,已經能夠為企業級用戶提供統一存儲的服務。

3、分布式存儲與傳統存儲的區別

(1)高性能,每個節點服務器都具有單獨的處理數據請求的能力,集群中所有節點并行執行不同的處理請求,每當有新的節點加入集群,總資源池都會得到增長,系統性能得到提升

(2)高可靠性,能夠有效避免SPoF問題的出現,當系統中某一節點服務器出現宕機或者其他故障時,系統服務不受影響

(3)低成本,能夠很大程度地減少建立基礎設施的成本,同時數據管理的成本也會有效減少

(4)高擴展性,可以通過更多的添加服務器節點實現系統的水平擴展,從而線性地提高系統總體容量與性能,并減輕對特定設備的依賴

推薦閱讀:《【研報】區塊鏈行業新基建(三):分布式存儲給互聯網帶來了什么?

【研報】計算機行業:分布式存儲企業IT市場的新增長點-20200302[26頁].pdf

本文由作者2200發布,版權歸原作者所有,禁止轉載。本文僅代表作者個人觀點,與本網無關。本文文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關內容。

相關報告

【研報】區塊鏈行業新基建(三):分布式存儲給互聯網帶來了什么?-20201015(17頁).pdf
【研報】區塊鏈行業新基建(三):分布式存儲給互聯網帶來了什么?-20201015(17頁).pdf

請仔細閱讀本報告末頁聲明請仔細閱讀本報告末頁聲明 證券研究報告|行業專題研究 2020 年 10 月 15 日 區塊鏈區塊鏈 區塊鏈新基建(三) :分布式存儲區塊鏈新基建(三) :分布式存儲給互聯網帶來了什么?給互聯網帶來了什么? 感謝分布式資本提供研究支持,以及感謝分布式資本提供研究支持,以及儲迅信息技

【研報】傳媒行業深度報告:為什么2021年的院線仍可關注-210303(28頁).pdf
【研報】傳媒行業深度報告:為什么2021年的院線仍可關注-210303(28頁).pdf

 中美觀影人次對比:中國具備觀影人次提升空間 觀影人次端看,中國觀影人次從 2012 年的4.6 億次增加至 2019 年的17.3 億次(2012-2019 年全國觀影人次復合增速達 21%),2020 年由于疫情致中國院線在2020 年 1 月24 日暫停,7 月20 日重啟復市,該

RDMA 在分布式存儲中的應用.pdf
RDMA 在分布式存儲中的應用.pdf

基于RDMA的高性能分布式文件存儲BUILD THE BEST HIGH PERFORMANCESTORAGE!上海儲迅信息技術有限公司ShanghaiStorSwitt intommmation iechnologyCo.Ltd#page#公司簡產品介技術為HPC/AI等領團隊域提供專業存儲存儲領域多項核

ODCC:2022分布式存儲技術與產業分析報告(35頁).pdf
ODCC:2022分布式存儲技術與產業分析報告(35頁).pdf

1 分布式存儲技術與產業分析報告 ODCC-2022-05002 分布式存儲技術與產業分布式存儲技術與產業 分析報告分析報告 編號 ODCC-2022-05002 分布式存儲技術與產業分析報告 開放數據中心標準推進委員會開放數據中心標準推進委員會 2022-04 發布發布 I 分布式存儲技術與產業分析報告

【研報】計算機行業:分布式存儲企業IT市場的新增長點-20200302[26頁].pdf
【研報】計算機行業:分布式存儲企業IT市場的新增長點-20200302[26頁].pdf

1 作者: 行業評級: 上次評級: 行業報告 | 請務必閱讀正文之后的信息披露和免責申明 計算機計算機 強于大市 強于大市 維持(評級) 分析師 沈海兵 SAC執業證書編號:S1110517030001 分析師 繆欣君 SAC執業證書編號:S1110517080003 分布式分布式存儲,企業存儲,企業ITI

分布式人工智能與金融應用.pdf
分布式人工智能與金融應用.pdf

分布式人工智能與金融應用王靜逸#page#目錄分布式人工智能的發展概要金融業大規模人工智能計算的痛點與需求分布式人工智能如何賦能金融業未來展望#page#金融科技領域-分布式人工智能的需求概要隨著金融科技領域的不斷發展,特別是云計算、大數據、區塊鏈、分布式、人工智能、物聯網的發展,單一的計算機無法完成這樣的

中興:分布式精準云白皮書(29頁).pdf
中興:分布式精準云白皮書(29頁).pdf

電信運營商在網絡基礎設施云化上已經進行了多年的經驗積累,對云化的發展和演進有日益深刻的理解。除了支撐自身的通信技術發展,也在逐漸將專用的電信網絡化成面向千行百業的云服務平臺。電信云在網絡性能、可靠性等方面有著原生的優勢,并不斷融合AI大數據等新技術,打造新型的高性能高可靠智能化信息平臺,可以更好地幫助產業的

8-華為-鴻蒙分布式測試框架建設之路-曾文科.pdf
8-華為-鴻蒙分布式測試框架建設之路-曾文科.pdf

MTSC2020中國互聯網測試開發大會深圳站TESTING SUMMITCONFERENCE CHINA 20202020.11.20-21一中國深圳寶立方國際酒店主辦方:TesterHame#page#MTSC中國互聯網測試開發大會TING SUMMIT CONFERENCE CHINA2020鴻蒙分布式

客服
商務合作
小程序
服務號
折疊
午夜网日韩中文字幕,日韩Av中文字幕久久,亚洲中文字幕在线一区二区,最新中文字幕在线视频网站