FastDFS由跟蹤服務器(Tracker Server)、存儲服務器(Storage Server)和客戶端(Client)構成。
1、跟蹤器-Tracker
跟蹤服務器,主要做調度工作,起負載均衡的作用。在內存中記錄集群中所有存儲組和存儲服務器的狀態信息,是客戶端和數據服務器交互的樞紐??蛻舳嗽L問集群的時候會隨機分配一個Tracker來和客戶端交互;
2、存儲節點-Storage
存儲服務器(又稱:存儲節點或數據服務器),實際存儲數據的地方,文件和文件屬性(meta data)都保存到存儲服務器上。Storage server直接利用OS的文件系統調用管理文件。Group可以隔離不同應用的數據,不同應用的數據放在不同group里面;
3、客戶端-Client
作為業務請求的發起方,通過專有接口,使用TCP/IP協議與跟蹤器服務器或存儲節點進行數據交互。每個客戶端服務器需要安裝Nginx。
由于FastDFS產品非常輕量簡單,支持最小化部署,所以目前還有部分用戶在使用該產品。但FastDFS被使用在生產環境還有很多隱患和不足:
FastDFS主要缺陷
01XEOS對象存儲
XEOS (XSKY Enterprise Object Storage)通過全新的存儲技術手段,基于通用服務器硬件構建了一個近乎無限擴容、持續在線、可跨地域訪問的高性價比存儲架構體系,在保證了數據高安全性的同時,打破存儲規模和地域限制的壁壘,降低企業 IT 建設的投入,滿足了新業務形態的多源化存儲需求。
XEOS完備的企業級存儲特性,如:多副本/EC、QoS、負載均衡、小文件歸并、統一命名空間、數據分層等,完美解決了FastDFS的諸多產品問題,平滑的適配了其使用場景。
02X3DS輔助FastDFS平滑遷移至XEOS
X3DS(XSKY 3D data management System)是XSKY提供的立體數據管理系統??商峁┓墙Y構化數據的DR(Disaster Recovery,災難恢復),DP(Data Protection,數據保護)和DM(Data Migration,數據遷移)這三大管理能力,是一個立體的三維數據管理平臺。
支持非結構化數據的復制、遷移、備份、歸檔功能,支持豐富的數據管理策略,滿足不同用戶的個性化要求。支持多存儲后端協議(如:CIFS,NFS,FTP,S3,BOS,OSS,FastDFS等),極大的兼容了市場上主流文件傳輸協議。
支持跨廠商的文件和對象存儲之間數據相互移動,支持跨云的數據上云和下云,適應性廣,避免用戶被設備廠商和公有云廠商鎖定。遷移任務支持斷點續傳,應對海量數據遷移過程中,如發生機房掉電等故障,故障恢復后,再次啟動遷移任務可以實現斷點續傳,有效節省遷移時間。
1、整體遷移方案架構
2、方案特點
可配置遷移QoS;
支持主流協議遷移;
為保證數據可用,業務切換時需要短暫停機做最終數據一致檢查;
支持—file-from,指定文件遷移;
支持腳本工具導出FastDFS集群文件ID;
遷移任務支持斷點續傳。
3、具體部署方案
整體操作流程:
創建源端
創建目標端
創建遷移任務
數據遷移中
產品安裝部署:
1.目標XEOS集群部署
網絡需要與源端集群業務網絡連通;
參照《星辰天合分布式存儲系統軟件安裝手冊》完成XEOS分布式對象存儲安裝,初始化配置,調試完畢,準備就緒。
2.信息收集,集群規劃
收集原有FastDFS集群相關信息;
結合客戶需求定制,規劃新集群相關配置信息。
3.遷移流程規劃
遷移項目實施需有詳盡的方案規劃,針對不同的業務應用或者租戶,優化切割時間節點;
評估重點業務,為保證遷移的有效性和安全性,需要對驗證遷移前后數據的一致性和完整性做整體規劃;
確定遷移步驟,順序,工具,實施人員等信息,給出具體的實施指導手冊和計劃,以及對應的回退方案。
4.目標端集群配置
目標端集群對應資源的創建(對象資源,永久Token等);
確定新集群和應用業務的對接。
5.Nginx安裝
下載并配置FastDFS-Nginx-Module模塊,完成在Storage所有節點上Nginx的安裝;
Storage節點上對接配置Nginx,并設置開機自啟動;
測試Nginx模塊。
6.數據遷移
安裝配置X3DS
X3DS產品支持融合部署在XEOS存儲節點,不需要額外的資源消耗;
上傳解壓X3DS安裝包,一鍵安裝部署;
添加X3DS節點(支持單節點和多節點部署,多節點部署建議至少3個節點) ;
在目標端XSKY存儲上創建永久Token;
參照手冊創建源端的FastDFS和目標端的XEOS S3的Remote類型;
檢查業務網絡的連通性,待遷移數據需可以在X3DS業務節點訪問。
數據遷移
部署用戶提供的文件ID列表保存在X3DS業務節點上;
預測試,使用小部分數據先預測試,驗證方案可行性;
配置遷移任務;
遷移完成后,檢查一致性。
7.遷移完成,業務切換
遷移完成后,業務切換,驗證數據一致性。
03遷移案例
某新消費服務平臺在新數據中心建設上采用XSKY XEOS來滿足其非結構化數據存儲需求。原數據存儲在FastDFS文件系統中,總文件數量超過48億個,總容量超過700TB,數據類型大部分為100-500kb的PDF文件。為了實現數據的統一管理和維護,需要將原FastDFS集群上的數據遷移至新建XEOS對象存儲集群中。
1、遷移方式
采用在線遷移的方式進行;
需要多次遷移,停業務完成最后的遷移;
短暫離線遷移主要用于校驗數據一致性。
2、第一期遷移
完成數據遷移共計600W+文件;
共計遷移時間4小時。
3、改造后優勢