杭州全閃塊分布式存儲有哪些

來源: 發(fā)布時間:2022-02-18

為了保證分布式存儲系統(tǒng)的高可靠和高可用,數(shù)據(jù)在系統(tǒng)中一般存儲多個副本。當(dāng)某個副本所在的存儲節(jié)點出現(xiàn)故障時,分布式存儲系統(tǒng)能夠自動將服務(wù)切換到其他的副本,從而實現(xiàn)自動容錯。分布式存儲系統(tǒng)通過復(fù)制協(xié)議將數(shù)據(jù)同步到多個存儲節(jié)點,并確保多個副本之間的數(shù)據(jù)一致性??蛻舳藢懻埱蟀l(fā)送給主副本,主副本將寫請求復(fù)制到其他備副本,常見的做法是同步操作日志(CommitLog)。主副本首先將操作日志同步到備副本,備副本回放操作日志,完成后通知主副本。接著,主副本修改本機,等到所有的操作都完成后再通知客戶端寫成功。下圖中的復(fù)制協(xié)議要求主備同步成功才可以返回客戶端寫成功,這種協(xié)議稱為強同步協(xié)議。 為了保證分布式存儲系統(tǒng)的高可靠和高可用,數(shù)據(jù)在系統(tǒng)中一般存儲多個副本。杭州全閃塊分布式存儲有哪些

實際上分布式存儲,高性能與高可用是矛盾的,比如要設(shè)計一個分布式存儲系統(tǒng),出于對性能的考慮,記錄數(shù)據(jù)時先寫一個份數(shù)據(jù)到某個機器上并立即返回,然后異步發(fā)起多個數(shù)據(jù)備份過程(副本)。這種設(shè)計的性能比較好,但存在“容錯性”的風(fēng)險,即寫完數(shù)據(jù)后,目標(biāo)機器立即發(fā)生故障,會導(dǎo)致數(shù)據(jù)丟失!如果同時寫多個副本,每個副本寫成功以后再返回,則又導(dǎo)致性能下降,因為這個過程取決于慢的那臺機器的性能。這就是高性能與高可用之間的矛盾。而要真正從根本上克服這些矛盾,解決分布式存儲的高性能和高可用問題,更有效的是對于分布式文件系統(tǒng)和分布式存儲系統(tǒng)架構(gòu)進行優(yōu)化和改進,從而從源頭解決這些問題。 鹽城四大開源分布式存儲系統(tǒng)架構(gòu)難言之隱,分布式存儲軟硬件解耦究竟難在哪里?

分布式存儲傳統(tǒng)數(shù)據(jù)存儲模型需要支持盡可能多的應(yīng)用,因此需要具備較好的通用性。大數(shù)據(jù)具有大規(guī)模、高動態(tài)及快速處理等特性,通用的數(shù)據(jù)存儲模型通常并不是能提高應(yīng)用性能的模型.而大數(shù)據(jù)存儲系統(tǒng)對上層應(yīng)用性能的關(guān)注遠(yuǎn)遠(yuǎn)超過對通用性的追求。針對應(yīng)用和負(fù)載來優(yōu)化存儲,就是將數(shù)據(jù)存儲與應(yīng)用耦合。簡化或擴展分布式文件系統(tǒng)的功能,根據(jù)特定應(yīng)用、特定負(fù)載、特定的計算模型對文件系統(tǒng)進行定制和深度優(yōu)化,使應(yīng)用達到比較好性能。這類優(yōu)化技術(shù)在谷歌、Facebook等互聯(lián)網(wǎng)公司的內(nèi)部存儲系統(tǒng)上,管理超過千萬億字節(jié)級別的大數(shù)據(jù),能夠達到非常高的性能。

說到分布式存儲,我們先來看一下傳統(tǒng)的存儲是怎么個樣子。傳統(tǒng)的存儲也稱為集中式存儲,從概念上可以看出來是具有集中性的,也就是整個存儲是集中在一個系統(tǒng)中的,但集中式存儲并不是一個單獨的設(shè)備,是集中在一套系統(tǒng)當(dāng)中的多個設(shè)備,比如下圖中的EMC存儲就需要幾個機柜來存放。在這個存儲系統(tǒng)中包含很多組件,除了核xin的機頭(控制器)、磁盤陣列和交換機等設(shè)備外,還有管理設(shè)備等輔助設(shè)備。結(jié)構(gòu)中包含一個機頭,這個是存儲系統(tǒng)中為核xin的部件。通常在機頭中有包含兩個控制器,互為備用,避免硬件故障導(dǎo)致整個存儲系統(tǒng)的不可用。 分布式存儲是未來數(shù)字產(chǎn)業(yè)生態(tài)系統(tǒng)構(gòu)建與新基建的重要引擎。

    那么現(xiàn)在問題來了,如果我們要選擇分布式存儲,選擇哪種好呢?其實它們各有各的優(yōu)勢和使用場景,具體要看需求。(1)HDFS:主要用于大數(shù)據(jù)的存儲場景,是Hadoop大數(shù)據(jù)架構(gòu)中的存儲組件。HDFS在開始設(shè)計的時候,就已經(jīng)明確的它的應(yīng)用場景,就是大數(shù)據(jù)服務(wù)。(2)Ceph:目前應(yīng)用廣的開源分布式存儲系統(tǒng),已得到眾多廠商的支持,許多超融合系統(tǒng)的分布式存儲都是基于Ceph深度定制。而且Ceph已經(jīng)成為LINUX系統(tǒng)和OpenStack的“標(biāo)配”,用于支持各自的存儲系統(tǒng)。Ceph可以提供對象存儲、塊設(shè)備存儲和文件系統(tǒng)存儲服務(wù)。同時支持三種不同類型的存儲服務(wù)的特性,在分布式存儲系統(tǒng)中,是很少見的。(3)Swift:主要面向的是對象存儲。和Ceph提供的對象存儲服務(wù)類似。主要用于解決非結(jié)構(gòu)化數(shù)據(jù)存儲問題。它和Ceph的對象存儲服務(wù)的主要區(qū)別是。 分布式存儲在數(shù)據(jù)治理過程中的優(yōu)勢。常州什么是分布式存儲有哪些

分布式存儲系統(tǒng),是將數(shù)據(jù)分散存儲在多臺單獨的設(shè)備上。杭州全閃塊分布式存儲有哪些

在分布式存儲的容災(zāi)中,一個重要的手段就是多時間點快照技術(shù),使得用戶生產(chǎn)系統(tǒng)能夠?qū)崿F(xiàn)一定時間間隔下的各版本數(shù)據(jù)的保存。特別值得一提的是,多時間點快照技術(shù)支持同時提取多個時間點樣本同時恢復(fù),這對于很多邏輯錯誤的災(zāi)難定位十分有用,如果用戶有多臺服務(wù)器或虛擬機可以用作系統(tǒng)恢復(fù),通過比照和分析,可以快速找到哪個時間點才是需要回復(fù)的時間點,降低了故障定位的難度,縮短了定位時間。這個功能還非常有利于進行故障重現(xiàn),從而進行分析和研究,避免災(zāi)難在未來再次發(fā)生。多副本技術(shù),數(shù)據(jù)條帶化放置,多時間點快照和周期增量復(fù)制等技術(shù)為分布式存儲的高可靠性提供了保障。 杭州全閃塊分布式存儲有哪些

江蘇魏晉元興智能科技有限公司是一家智能技術(shù)、計算機技術(shù)研發(fā)、技術(shù)咨詢,技術(shù)轉(zhuǎn)讓:軟件開 發(fā)、銷售;信息系統(tǒng)集成服務(wù):機電產(chǎn)品、計算機及配件、 電線電纜、儀器儀表、電子元器件、機械設(shè)備、機電設(shè)備 節(jié)能設(shè)備、辦公用品、攝影器材、文化用品、通訊設(shè)備、體 育器材、消防器材銷售;綜合布線工程、水電工程、園林綠 化工程、室內(nèi)裝飾工程、土石方工程設(shè)計、施工,提供勞務(wù) 服務(wù);企業(yè)形象策劃:企業(yè)管理咨詢:家用電器銷售、維 修;文化藝術(shù)交流活動組織、 策劃。( 依法須經(jīng)批準(zhǔn)的項 目,經(jīng)相關(guān)部門批準(zhǔn)后方可開展經(jīng)營活動)的公司,致力于發(fā)展為創(chuàng)新務(wù)實、誠實可信的企業(yè)。公司自創(chuàng)立以來,投身于網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制,是數(shù)碼、電腦的主力軍。魏晉元興智能始終以本分踏實的精神和必勝的信念,影響并帶動團隊取得成功。魏晉元興智能始終關(guān)注數(shù)碼、電腦行業(yè)。滿足市場需求,提高產(chǎn)品價值,是我們前行的力量。