<bdo id="vljxk"><rt id="vljxk"><noframes id="vljxk"><noframes id="vljxk"><noframes id="vljxk"><rt id="vljxk"></rt><rt id="vljxk"></rt><noframes id="vljxk"><rt id="vljxk"><delect id="vljxk"></delect></rt><noframes id="vljxk"><rt id="vljxk"></rt><noframes id="vljxk"><noframes id="vljxk"><rt id="vljxk"></rt>

當前位置:首頁 >  IDC >  云計算 >  正文

青云科技以多元算力調度管理AI基礎設施,以開放生態整合AI能力

 2023-09-26 16:38  來源: 互聯網   我來投稿 撤稿糾錯

  阿里云優惠券 先領券再下單

AI引發的算力需求到底有多大?各種預測數據雖然并不統一,但可以肯定的是AI和大模型又將帶來新一輪的生產力的變革,在這個技術催生的市場變化中,企業的應用變得更加復雜,業態會更加豐富,底層架構單一的CPU或者GPU已經不能滿足需求??偠灾?,企業面臨的技術和平臺挑戰將是空前的。

青云科技(qingcloud.com)總裁林源分析說:“從算力建設的角度去看,現在是算力集中建設的階段。大量的算力中心如雨后春筍般出來,成本和技術是最大的挑戰。如果說建設期就是蓋機房、購買設備,那么中長期的運營則是更專業、更復雜的問題。這些問題都需要解決,青云也給出了自己的答案,這就是青云最新推出的AI算力調度平臺。”

多元算力調度,管理AI基礎設施

“在近兩年運營過程中,我們總結出一些這個行業當前面臨的挑戰,同時它也是青云所需要解決的問題。”青云科技產品經理苗慧在分析行業挑戰的同時,也給出了青云科技的解決方案。

首先,解決行業多元資源統一調度管理的問題。

在AIGC領域,行業面臨的普遍問題是大文本和大量行業數據加速,不同的資源需要統一平臺進行管理。比如,一個影視渲染行業的用戶,需要渲染一部大電影,他們可以通過青云的平臺進行分發,即時構建環境調度需要用到的渲染資源。

在AI訓練方面,用戶通過開源的人類自然語言模型訓練圖片、數據,做模型微調,再加上自己的行業知識,也能通過青云統一的多源資源調度管理平臺進行分發管理。

對于管理員來說,通過青云的平臺,只要通過一個管理界面、一個大屏,就能看到其分布在全國的2000臺資源,3000個存儲節點等等,以最少的人力大大提升管理運維效率。

二、解決AI應用的網絡瓶頸。青云通過多種方式來解決網絡瓶頸的問題。在高速組網方面,青云基于傳統的云計算領域,增加了高速網絡,并針對不同種類和型號的網卡做了網卡虛擬化和完全的子網隔離,以確保用戶無論是按卡申請還是按節點申請,都能保證數據的安全隔離,保證用戶之間不存在這種數據的風險。

在通信鏈路方面,這也是青云在AI算力調度平臺著力最多的地方。青云將所有的節點、服務器、存儲設備都做出了路徑標簽,設置最佳路徑距離。通過算法,投入調度最短鏈路,計算最短鏈路,保證最好是兩個節點在一個交換機內,這樣不跨交換機,又減少一些數據的傳輸損耗。

針對AI訓練,青云提供了在線訓練平臺。把高性能計算、GPU卡等匯集成起來,在專屬的環境上,提供GPU服務器在線申請構建集群,所有的網絡和環境都可一鍵生成。并且青云會根據行業內常用的模型和小工具,進行集成。同時,青云在每個區域都有一個小型的容器鏡像中心,與鏡像節點和推理服務進行內網連接,這使得訓練過程更快,遠比在公網上拉數據等要快得多。

第三,解決環境搭建的復雜性問題。算力中心面向眾多的終端用戶,這就注定了它的復雜性。在環境搭建方面,青云有兩種方式為客戶提供常用的鏡像或者容器。

第四,解決多業務整合的瓶頸問題。青云目前已將更多的業務以松耦合的模式嵌入整合到青云云平臺。

第五,解決運維平臺的復雜管理問題。青云提供了更多的運營服務,尤其是算力中心服務。以國家超算濟南中心為例,其后端團隊,既要運維軟件還要負責客戶的各類運維問題,這就需要投入大量的人力還耗時耗力。青云通過一套運維平臺,讓其定價、打折、促銷等,只需要在頁面上點擊按鈕就可實現,而不再需要通過申請表的傳統方式實現。

總結而言,青云AI算力調度平臺的特性主要有:第一,基于多種芯片,包括通用CPU、英偉達GPU、信創芯片等等;第二,全生命周期的管理;第三,AIGC業務化;第四,通過業務化、自動化,讓非計算機行業用戶能一鍵運行數據、業務和模型等。

開放的生態圈,實現AI整體能力的整合

青云AI算力調度平臺是算力中心運營者的關鍵工具,目前其服務的對象主要為現在和未來投入算力中心建設的企業——現在的投資者和未來的運營者。

青云把多年運營服務的經驗融入到了產品、服務體系,并在國家超算濟南中心有了成功實踐。國家超算濟南中心是一個包括HPC超算、傳統云計算(以CPU為主)、智算(兼有國外及國產GPU)的多元計算中心。和眾多算力中心一樣,國家超算濟南中心需要的是滿足客戶需求的、成熟的運營工具和平臺。平臺能力越強,能支撐客戶的業務種類越多,客戶越多,盈利模式越清晰。

青云認為未來 AI 時代,企業一定是通過算力服務、算法和模型、高價值的數據來實現智能化,這也是 AI 生態體系的價值所在。青云也清醒地認識到與不同領域的合作伙伴一起實現整體能力的整合,才能夠更好地幫助企業實現 AI 真正的業務價值。

干自己最擅長的AI算力資源調度,這也與青云科技十幾年來耕耘的云調度平臺、IaaS一脈相承。

申請創業報道,分享創業好點子。點擊此處,共同探討創業新機遇!

相關標簽
云服務

相關文章

  • 青云QingCloud 面對算力新問題有產品、更有服務

    算力作為推動人工智能產業發展的核心動力,在將數據及算法轉化為最終生產力的過程中發揮著重要作用??梢哉f,大模型時代,AI領域正從數據和算法層面的競爭,轉變為底層算力的競爭。相關機構分析顯示,我國算力產業保持高速增長,其中AI算力在整個算力結構中的占比已經超過25%。我國算力總規模近五年年均增速近30%

    標簽:
    云服務
  • 百望云獲評ITShare數智未來創新峰會“年度數字化優秀服務商”大獎

    近日,百望云應邀出席“新能源-新制造暨汽車數智未來創新峰會”,憑借在數字化領域優秀的服務能力和豐富的落地成果,成功獲評“年度數字化優秀服務商”,這也是市場對百望云在賦能企業數字化轉型和產品創新領域的再度認可!在“數智創新未來”的主題下,百望云也與眾多行業知名企業分享了財稅數字化轉型成功經驗,共襄盛會

    標簽:
    云服務
  • 確立“AI算力”戰略重心,青云科技備戰“下一個10年”

    近三年,中國云計算市場在多個維度同時發生著劇烈變化——疫情極大加速了全社會對于數字化的認知和接受程度;一系列云原生技術依托著開源和蓬勃的市場而迅速發展演變,更多產品和技術名詞同時涌向市場;國際關系復雜化下的信創云浪潮撲面而來......在這樣一個技術和需求都在快速演變的供需環境中,云計算市場競爭走向

    標簽:
    云服務
  • 什么是更適合金融的云?青云QingCloud“解鎖”全棧云強大功能

    在央行印發的《金融科技發展規劃(2022-2025年)》中,“金融科技”被定位為深化金融供給側結構性改革,加快金融機構數字化轉型,增強金融服務實體經濟能力的重要引擎。規劃涵蓋基礎設施、數據、核心技術應用、創新等方面的主體內容,包括"基礎設施、技術中臺、業務中臺、業務場景"4層建設體系,并制定了”數字

    標簽:
    云服務
  • 伙伴云連續2年入選Gartner《中國分析平臺市場指南》,數據分析能力遙遙領先

    伙伴云作為中國分析與商業智能平臺代表性廠商,因出色的數據分析能力,入選Gartner2023《中國分析平臺市場指南》(《MarketGuideforAnalyticsPlatforms,China》,以下簡稱“指南”),成為入選該報告中唯一一家零代碼廠商?;锇樵七B續2年入選Gartner《中國分析平

    標簽:
    云服務

熱門排行

信息推薦