<bdo id="vljxk"><rt id="vljxk"><noframes id="vljxk"><noframes id="vljxk"><noframes id="vljxk"><rt id="vljxk"></rt><rt id="vljxk"></rt><noframes id="vljxk"><rt id="vljxk"><delect id="vljxk"></delect></rt><noframes id="vljxk"><rt id="vljxk"></rt><noframes id="vljxk"><noframes id="vljxk"><rt id="vljxk"></rt>

當前位置:首頁 >  科技 >  IT業界 >  正文

如何將FastDFS存儲數據平滑遷移至XSKY對象存儲?

 2020-08-06 17:45  來源: 互聯網   我來投稿 撤稿糾錯

  阿里云優惠券 先領券再下單

FastDFS是以純C語言實現的一款開源輕量級分布式文件系統,支持Linux、FreeBSD、AIX等UNIX類系統。

FastDFS不是通用的文件系統,不支持POSIX接口方式,只能通過專有API對文件進行存取訪問,目前提供了C、Java和PHP API為互聯網應用量身定做,解決大容量文件存儲問題。

主要功能有:文件存儲,文件同步,文件訪問(文件上傳/下載),適合以中小文件(建議范圍:4KB < file_size<500MB)為載體的在線服務,如相冊網站、視頻網站等等。

FastDFS由跟蹤服務器(Tracker Server)、存儲服務器(Storage Server)和客戶端(Client)構成。

1、*-Tracker

跟蹤服務器,主要做調度工作,起負載均衡的作用。在內存中記錄集群中所有存儲組和存儲服務器的狀態信息,是客戶端和數據服務器交互的樞紐??蛻舳嗽L問集群的時候會隨機分配一個Tracker來和客戶端交互;

2、存儲節點-Storage

存儲服務器(又稱:存儲節點或數據服務器),實際存儲數據的地方,文件和文件屬性(meta data)都保存到存儲服務器上。Storage server直接利用OS的文件系統調用管理文件。Group可以隔離不同應用的數據,不同應用的數據放在不同group里面;

3、客戶端-Client

作為業務請求的發起方,通過專有接口,使用TCP/IP協議與*服務器或存儲節點進行數據交互。每個客戶端服務器需要安裝Nginx。

由于FastDFS產品非常輕量簡單,支持最小化部署,所以目前還有部分用戶在使用該產品。但FastDFS被使用在生產環境還有很多隱患和不足:

FastDFS主要缺陷

01XEOS對象存儲

XEOS (XSKY Enterprise Object Storage)通過全新的存儲技術手段,基于通用服務器硬件構建了一個近乎無限擴容、持續在線、可跨地域訪問的高性價比存儲架構體系,在保證了數據高安全性的同時,打破存儲規模和地域限制的壁壘,降低企業 IT 建設的投入,滿足了新業務形態的多源化存儲需求。

XEOS完備的企業級存儲特性,如:多副本/EC、QoS、負載均衡、小文件歸并、統一命名空間、數據分層等,完美解決了FastDFS的諸多產品問題,平滑的適配了其使用場景。

02X3DS輔助FastDFS 平滑遷移至XEOS

X3DS(XSKY 3D data management System)是XSKY提供的立體數據管理系統??商峁┓墙Y構化數據的DR(Disaster Recovery,災難恢復),DP(Data Protection,數據保護)和DM(Data Migration,數據遷移)這三大管理能力,是一個立體的三維數據管理平臺。

支持非結構化數據的復制、遷移、備份、歸檔功能,支持豐富的數據管理策略,滿足不同用戶的個性化要求。支持多存儲后端協議(如:CIFS,NFS,FTP,S3,BOS,OSS,FastDFS等),極大的兼容了市場上主流文件傳輸協議。

支持跨廠商的文件和對象存儲之間數據相互移動,支持跨云的數據上云和下云,適應性廣,避免用戶被設備廠商和公有云廠商鎖定。遷移任務支持斷點續傳,應對海量數據遷移過程中,如發生機房掉電等故障,故障恢復后,再次啟動遷移任務可以實現斷點續傳,有效節省遷移時間。

1、整體遷移方案架構

2、方案特點

可配置遷移QoS;

支持主流協議遷移;

為保證數據可用,業務切換時需要短暫停機做最終數據一致檢查;

支持—file-from,指定文件遷移;

支持腳本工具導出FastDFS集群文件ID;

遷移任務支持斷點續傳。?

3、具體部署方案

整體操作流程:

創建源端?

創建目標端?

創建遷移任務?

數據遷移中?

產品安裝部署:

1.目標XEOS集群部署

網絡需要與源端集群業務網絡連通;

參照《星辰天合分布式存儲系統軟件安裝手冊》完成XEOS分布式對象存儲安裝,初始化配置,調試完畢,準備就緒。?

2.信息收集,集群規劃

收集原有FastDFS集群相關信息;

結合客戶需求定制,規劃新集群相關配置信息。?

3.遷移流程規劃

遷移項目實施需有詳盡的方案規劃,針對不同的業務應用或者租戶,優化切割時間節點;

評估重點業務,為保證遷移的有效性和安全性,需要對驗證遷移前后數據的一致性和完整性做整體規劃;

確定遷移步驟,順序,工具,實施人員等信息,給出具體的實施指導手冊和計劃,以及對應的回退方案。?

4.目標端集群配置

目標端集群對應資源的創建(對象資源,永久Token等);

確定新集群和應用業務的對接。?

5.Nginx安裝

下載并配置FastDFS-Nginx-Module模塊,完成在Storage所有節點上Nginx的安裝;

Storage節點上對接配置Nginx,并設置開機自啟動;

測試Nginx模塊。?

6.數據遷移

安裝配置X3DS

X3DS產品支持融合部署在XEOS存儲節點,不需要額外的資源消耗;

上傳解壓X3DS安裝包,一鍵安裝部署;

添加X3DS節點(支持單節點和多節點部署,多節點部署建議至少3個節點) ;

在目標端XSKY存儲上創建永久Token;

參照手冊創建源端的FastDFS和目標端的XEOS S3的Remote類型;

檢查業務網絡的連通性,待遷移數據需可以在X3DS業務節點訪問。?

數據遷移

部署用戶提供的文件ID列表保存在X3DS業務節點上;

預測試,使用小部分數據先預測試,驗證方案可行性;

配置遷移任務;

遷移完成后,檢查一致性。?

7.遷移完成,業務切換

遷移完成后,業務切換,驗證數據一致性。

03遷移案例

某新消費服務平臺在新數據中心建設上采用XSKY XEOS來滿足其非結構化數據存儲需求。原數據存儲在FastDFS文件系統中,總文件數量超過48億個,總容量超過700TB,數據類型大部分為100-500kb的PDF文件。為了實現數據的統一管理和維護,需要將原FastDFS集群上的數據遷移至新建XEOS對象存儲集群中。

1、遷移方式

采用在線遷移的方式進行;

需要多次遷移,停業務完成最后的遷移;

短暫離線遷移主要用于校驗數據一致性。?

2、第一期遷移

完成數據遷移共計600W+文件;

共計遷移時間4小時。?

3、改造后優勢

申請創業報道,分享創業好點子。點擊此處,共同探討創業新機遇!

相關標簽
數據存儲
SkyDrive

相關文章

  • 鵬云網絡分布式塊存儲社區版問世,首發開源存儲解決方案

    2023年1月,南京鵬云網絡科技有限公司(簡稱:鵬云網絡)正式宣布開源ZettaStorDBS分布式塊存儲系統,開放了自研10余年的分布式塊存儲技術,自此踏上了“自研”與“開源”一體并行的生態閉環之路。研發十年,挑戰塊存技術上限成本、效率、高可用,一直都是企業IT系統建設所追求的重要關鍵點,這三點在

    標簽:
    數據存儲
  • “效能再進化,數據更安全”威聯通舉行QTS 5.1.0及次世代NAS發布會

    2023年5月9日,以“效能再進化,數據更安全”為主題,威聯通2023年新品發布會在上海隆重舉行,多家媒體、合作伙伴及威聯通愛好者蒞臨現場,共同見證NAS網絡存儲行業朝向更高品質、更強性能、更好安全性的再次啟航。威聯通QTS5.1.0系統發布時下,網絡存儲行業已從萌芽時代步入增速發展關鍵期,用戶對數

    標簽:
    數據存儲
  • 面向海量非結構化數據存儲,QingStor U10000幫助企業解鎖數據價值

    隨著經濟社會數字化轉型的加速,各行各業產生的非結構化數據持續呈現井噴增長態勢。而為了科學高效地利用這些非結構化數據,為企業加速數字化轉型打牢基礎,在實現數據穩定、專業的存儲的前提下,推動數據的合理流動是關鍵。作為業內技術領先的企業級云服務商與數字化解決方案提供商,青云科技(qingcloud.com

    標簽:
    數據存儲
  • 得一微對話Arm,打造計算型存儲新生態

    高可靠存儲控制芯片、高端汽車存儲芯片等領域都已成為備受矚目的黃金賽道,被持續加大研發投入,頗受市場認可。在這樣的市場背景下,得一微電子CEO吳大畏與Arm物聯網事業部業務拓展副總裁馬健展開生態對話,圍繞存儲控制技術及應用市場展開了探討,雙方將在ComputationalStorage計算存儲領域芯片

    標簽:
    數據存儲
  • 百代可信OSS引領國產存儲技術新革命!

    近期互聯網圈頂流“ChatGPT”憑借著“天上文曲星”般的智能表現火速破圈,在諸如內容生成、搜索引擎優化、智能問答等領域展現出了巨大潛力,引發了人工智能領域的新一輪技術升級與產業重塑,一個AI大規模商業化的時代正悄然來臨。AI大規模商業化時代背景,勢必伴隨著背后海量級的數據存儲,數據就是一切,是支撐

    標簽:
    數據存儲

熱門排行

信息推薦