cStor雲存儲

cStor雲存儲系統是南京雲創存儲科技有限公司自主研發的高科技產品，整套系統包括分佈式存儲軟件和硬件系統，與傳統的大規模存儲系統相比，cStor針對絕大多數數據密集型應用的特點從多個方面進行了優化，具有高性能、低成本、高可靠、高可伸縮、易用、通用等鮮明特點。 ^[1-2] 

目前cStor雲存儲系統已經廣泛應用於數字地球、互聯網空間、視頻點播、視頻監控、高清影視節目分發、動漫渲染、數字圖書館等領域，在單一工程中的配置達到250TB。兩年多來，在眾多工程中，cStor表現非常穩定，從未出現故障。

cStor雲存儲系統可以獨立運行於客户的通用計算機硬件上。 cStor雲存儲系統憑着超低的價格、優異的性能、高度可靠、綠色節能、無限容量、在線自動伸縮、易用通用等諸多壓倒性優勢，獲得了廣電、安防、刑偵、政務、交通、動漫等各行業用户，產品代理和銷售商已發展到數十家。

cStor雲存儲有以下幾大性能：

cStor雲存儲系統支持高併發、帶寬飽和利用。cStor雲存儲系統將控制流和數據流分離，數據訪問時多個存儲服務器同時對外提供服務，實現高併發訪問。自動均衡負載，將不同客户端的訪問負載均衡到不同的存儲服務器上。系統性能隨節點規模的增加呈線性增長。系統的規模越大，雲存儲系統的優勢越明顯, 沒有性能瓶頸。

cStor雲存儲系統針對小文件採用多個數據塊副本的方式實現冗餘可靠，數據在不同的存儲節點上具有多個塊副本，任意節點發生故障，系統將自動複製數據塊副本到新的存儲節點上，數據不丟失，實現數據完整可靠；針對大文件採用超安存（S3）編解碼算法的方式實現高度可靠，任意同時損壞多個存儲節點，數據可通過超安存算法解碼自動恢復。該特性可適用於對數據安全級別極高的場合，同時相對於副本冗餘的可靠性實現方式大大提高了磁盤空間利用率，不到40%的磁盤冗餘即可實現任意同時損壞三個存儲節點而不丟失數據。元數據管理節點採用雙機鏡像熱備份的高可用方式容錯，其中一台服務器故障，可無縫自動切換到另一台服務器，服務不間斷。整個系統無單點故障，硬件故障自動屏蔽。

cStor雲存儲系統可以在不停止服務的情況下，動態加入新的存儲節點，無需任何操作，即可實現系統容量從TB級向PB級平滑擴展；也可以摘下任意節點，系統自動縮小規模而不丟失數據，並自動將再下的節點上的數據備份到其他節點上，保證整個系統數據的冗餘數。

cStor雲存儲系統支持超大規模集羣，理論容量為1024×1024×1024PB。

cStor雲存儲系統支持POSIX接口規範，支持Windows/Linux/Mac OS X，用户當成磁盤使用，無需修改應用。同時系統也對外提供專用的API訪問接口。

cStor雲存儲系統一鍵式安裝，智能化自適應管理，簡單方便的監控界面，無需學習即可使用。　cStor雲存儲系統所有管理工作由雲存儲系統管理監控中心完成，使用人員無需任何專業知識便可以輕鬆地管理整個系統。通過專業的分佈式集羣監控子系統對cStor所有節點實行無間斷監控，用户通過界面可以清楚地瞭解到每一個節點的運行情況。

cStor雲存儲系統基於廉價的存儲節點，通過cStor雲存儲虛擬化軟件實現統一管理和容錯，提供高效穩定的存儲服務，是傳統SAN系統價格的1/5到1/10。

cStor 採用中心服務器模式來管理整個文件系統，可以大大簡化設計，從而降低實現難度。

Master 管理了分佈式文件系統中的所有元數據。文件劃分為Chunk 進行存儲，對於Master 來説，每個Chunk Server 只是一個存儲空間。Client 發起的所有操作都需要先通過Master 才能執行。這樣做有許多好處，增加新的Chunk Server是一件十分容易的事情，Chunk Server只需要註冊到Master上即可，Chunk Server之間無任何關係。如果採用完全對等的、無中心的模式，那麼如何將Chunk Server的更新信息通知到每一個Chunk Server，會是設計的一個難點，而這也將在一定程度上影響系統的擴展性。Master維護了一個統一的命名空間，同時掌握整個系統內Chunk Server的情況，據此可以實現整個系統範圍內數據存儲的負載均衡。由於只有一箇中心服務器，元數據的一致性問題自然解決。當然，中心服務器模式也帶來一些固有的缺點，比如極易成為整個系統的瓶頸等。cStor採用多種機制來避免Master成為系統性能和可靠性上的瓶頸，如儘量控制元數據的規模、對Master進行遠程備份、控制信息和數據分流等。

緩存（Cache）機制是提升文件系統性能的一個重要手段，通用文件系統為了提高性能，一般需要實現複雜的緩存機制。cStor文件系統根據應用的特點，沒有實現緩存，這是從必要性和可行性兩方面考慮的。從必要性上講，客户端大部分是流式順序讀寫，並不存在大量的重複讀寫，緩存這部分數據對系統整體性能的提高作用不大；而對於Chunk Server，由於cStor的數據在Chunk Server上以文件的形式存儲，如果對某塊數據讀取頻繁，本地的文件系統自然會將其緩存。從可行性上講，如何維護緩存與實際數據之間的一致性是一個極其複雜的問題，在cStor中各個Chunk Server的穩定性都無法確保，加之網絡等多種不確定因素，一致性問題尤為複雜。此外由於讀取的數據量巨大，以當前的內存容量無法完全緩存。對於存儲在Master中的元數據，cStor採取了緩存策略，cStor中Client發起的所有操作都需要先經過Master。Master需要對其元數據進行頻繁操作，為了提高操作的效率，Master的元數據都是直接保存在內存中進行操作。同時採用相應的壓縮機制降低元數據佔用空間的大小，提高內存的利用率。

首先就單個Master來説，對於前兩種元數據，cStor通過操作日誌來提供容錯功能。第三種元數據信息則直接保存在各個Chunk Server上，當Master啓動或Chunk Server向Master註冊時自動生成。因此當Master發生故障時，在磁盤數據保存完好的情況下，可以迅速恢復以上元數據。為了防止Master徹底死機的情況，採用的雙機鏡像熱備份的方式，一台元數據服務器異常可快速切換到另一台備用元數據服務器，正常對外提供服務。

cStor還提供了Master遠程的實時備份，這樣在當前的Master出現故障無法工作的時候，另外一台Master可以迅速接替其工作。系統增減節點不必停止服務，可在線增減存儲節點，存儲節點和元數據節點間通過註冊管理機制自適應管理，實現自動伸縮。

cStor採用副本的方式實現Chunk Server的容錯。每一個Chunk有多個存儲副本（默認為三個），分佈存儲在不同的Chunk Server上。副本的分佈策略需要考慮多種因素，如網絡的拓撲、機架的分佈、磁盤的利用率等。對於每一個Chunk，必須將所有的副本全部寫入成功，才視為成功寫入。在其後的過程中，如果相關的副本出現丟失或不可恢復等狀況，Master會自動將該副本複製到其他Chunk Server，從而確保副本保持一定的個數。儘管一份數據需要存儲三份，好像磁盤空間的利用率不高，但綜合比較多種因素，加之磁盤的成本不斷下降，採用副本無疑是最簡單、最可靠、最有效，而且實現的難度也最小的一種方法。

採用8+3高頑存容錯編碼技術實現在低冗餘的情況下，實現數據的高可靠不丟失，任意損壞三個存儲節點，數據依然完整可靠，只需37.5%磁盤冗餘。

考慮大容量數據存儲時文件數量多，元數據容量大的問題，系統將元數據進行分佈式存儲，採用多個元數據管理節點進行元數據管理，實現無限容量支撐。

cStor雲存儲系統根據不同應用對象的應用需求以及對系統配置的要求分成三種技術規格，詳細説明如下。

cStor雲存儲系統主要是採用千兆網絡環境，可以滿足目前大多數常規應用環境要求。

cStor雲存儲系統採用萬兆網絡環境，主要應用於一般的對讀數據的存儲和處理的環境，如廣電等部門。

cStor雲存儲系統採用InfiniBand交換網絡，主要解決對網絡速度有特殊要求，並且數據的讀寫和處理有異常高的速度要求的應用環境。