FastDFS由跟蹤服務器(Tracker Server)、存儲服務器(Storage Server)和客戶端(Client)構成。

1、跟蹤器-Tracker

跟蹤服務器,主要做調度工作,起負載均衡的作用。在內存中記錄集群中所有存儲組和存儲服務器的狀態信息,是客戶端和數據服務器交互的樞紐??蛻舳嗽L問集群的時候會隨機分配一個Tracker來和客戶端交互;

2、存儲節點-Storage

存儲服務器(又稱:存儲節點或數據服務器),實際存儲數據的地方,文件和文件屬性(meta data)都保存到存儲服務器上。Storage server直接利用OS的文件系統調用管理文件。Group可以隔離不同應用的數據,不同應用的數據放在不同group里面;

3、客戶端-Client

作為業務請求的發起方,通過專有接口,使用TCP/IP協議與跟蹤器服務器或存儲節點進行數據交互。每個客戶端服務器需要安裝Nginx。

由于FastDFS產品非常輕量簡單,支持最小化部署,所以目前還有部分用戶在使用該產品。但FastDFS被使用在生產環境還有很多隱患和不足:

FastDFS主要缺陷

01XEOS對象存儲

XEOS (XSKY Enterprise Object Storage)通過全新的存儲技術手段,基于通用服務器硬件構建了一個近乎無限擴容、持續在線、可跨地域訪問的高性價比存儲架構體系,在保證了數據高安全性的同時,打破存儲規模和地域限制的壁壘,降低企業 IT 建設的投入,滿足了新業務形態的多源化存儲需求。

XEOS完備的企業級存儲特性,如:多副本/EC、QoS、負載均衡、小文件歸并、統一命名空間、數據分層等,完美解決了FastDFS的諸多產品問題,平滑的適配了其使用場景。

02X3DS輔助FastDFS平滑遷移至XEOS

X3DS(XSKY 3D data management System)是XSKY提供的立體數據管理系統??商峁┓墙Y構化數據的DR(Disaster Recovery,災難恢復),DP(Data Protection,數據保護)和DM(Data Migration,數據遷移)這三大管理能力,是一個立體的三維數據管理平臺。

支持非結構化數據的復制、遷移、備份、歸檔功能,支持豐富的數據管理策略,滿足不同用戶的個性化要求。支持多存儲后端協議(如:CIFS,NFS,FTP,S3,BOS,OSS,FastDFS等),極大的兼容了市場上主流文件傳輸協議。

支持跨廠商的文件和對象存儲之間數據相互移動,支持跨云的數據上云和下云,適應性廣,避免用戶被設備廠商和公有云廠商鎖定。遷移任務支持斷點續傳,應對海量數據遷移過程中,如發生機房掉電等故障,故障恢復后,再次啟動遷移任務可以實現斷點續傳,有效節省遷移時間。

1、整體遷移方案架構

2、方案特點

可配置遷移QoS;

支持主流協議遷移;

為保證數據可用,業務切換時需要短暫停機做最終數據一致檢查;

支持—file-from,指定文件遷移;

支持腳本工具導出FastDFS集群文件ID;

遷移任務支持斷點續傳。

3、具體部署方案

整體操作流程:

創建源端

創建目標端

創建遷移任務

數據遷移中

產品安裝部署:

1.目標XEOS集群部署

網絡需要與源端集群業務網絡連通;

參照《星辰天合分布式存儲系統軟件安裝手冊》完成XEOS分布式對象存儲安裝,初始化配置,調試完畢,準備就緒。

2.信息收集,集群規劃

收集原有FastDFS集群相關信息;

結合客戶需求定制,規劃新集群相關配置信息。

3.遷移流程規劃

遷移項目實施需有詳盡的方案規劃,針對不同的業務應用或者租戶,優化切割時間節點;

評估重點業務,為保證遷移的有效性和安全性,需要對驗證遷移前后數據的一致性和完整性做整體規劃;

確定遷移步驟,順序,工具,實施人員等信息,給出具體的實施指導手冊和計劃,以及對應的回退方案。

4.目標端集群配置

目標端集群對應資源的創建(對象資源,永久Token等);

確定新集群和應用業務的對接。

5.Nginx安裝

下載并配置FastDFS-Nginx-Module模塊,完成在Storage所有節點上Nginx的安裝;

Storage節點上對接配置Nginx,并設置開機自啟動;

測試Nginx模塊。

6.數據遷移

安裝配置X3DS

X3DS產品支持融合部署在XEOS存儲節點,不需要額外的資源消耗;

上傳解壓X3DS安裝包,一鍵安裝部署;

添加X3DS節點(支持單節點和多節點部署,多節點部署建議至少3個節點) ;

在目標端XSKY存儲上創建永久Token;

參照手冊創建源端的FastDFS和目標端的XEOS S3的Remote類型;

檢查業務網絡的連通性,待遷移數據需可以在X3DS業務節點訪問。

數據遷移

部署用戶提供的文件ID列表保存在X3DS業務節點上;

預測試,使用小部分數據先預測試,驗證方案可行性;

配置遷移任務;

遷移完成后,檢查一致性。

7.遷移完成,業務切換

遷移完成后,業務切換,驗證數據一致性。

03遷移案例

某新消費服務平臺在新數據中心建設上采用XSKY XEOS來滿足其非結構化數據存儲需求。原數據存儲在FastDFS文件系統中,總文件數量超過48億個,總容量超過700TB,數據類型大部分為100-500kb的PDF文件。為了實現數據的統一管理和維護,需要將原FastDFS集群上的數據遷移至新建XEOS對象存儲集群中。

1、遷移方式

采用在線遷移的方式進行;

需要多次遷移,停業務完成最后的遷移;

短暫離線遷移主要用于校驗數據一致性。

2、第一期遷移

完成數據遷移共計600W+文件;

共計遷移時間4小時。

3、改造后優勢

未經允許不得轉載:存儲在線-存儲專業媒體 » 如何將FastDFS存儲數據平滑遷移至XSKY對象存儲?
分享到

zhangnn

相關推薦

精品国产午夜肉伦伦影院,双性老师灌满浓jing上课h,天天做天天爱夜夜爽,攵女乱h边做边走