世界人工智能大會在2023年7月6日-8日于上海舉辦,本屆大會以“智聯世界 生成未來”為主題,打造“會議論壇、展覽展示、評獎賽事、應用體驗”四大核心內容,匯聚世界頂級科學家、企業家、政府官員、專家學者、國際組織、投資人、初創團隊等,搭建世界級合作交流平臺。
高通作為終端側AI領導者,在本次大會中進行了多場主題演講,并展示了終端側AI在智能手機中的最新應用。參會者能夠在高通的展臺中親自體驗生成式AI在終端側的高效運行,共同領略生成式AI所創造的未來體驗。此外,高通AI引擎榮獲2023世界人工智能大會頂級獎項:SAIL獎——卓越人工智能引領者獎,助力AI體驗創新和繁榮發展。

高通技術公司首席商務官Jim Cathey
高通技術公司首席商務官Jim Cathey在首日全體會議——產業發展論壇期間,發表主題為“5G賦能智能互聯的未來”的演講。其表示,5G對于一個更加智能的世界至關重要,不僅推動了智能的規?;瘮U展,還能夠使在邊緣側生成的情境相關數據與云端近乎實時地共享。在智能手機領域,5G和AI的結合是現代智能手機體驗的基礎;除智能手機之外,連接和智能正在開啟工業創新和數字化新時代。
高通AI引擎榮獲大獎 云端+邊緣側混合AI助力生成式AI發展
高通在人工智能興起之時就十分關注邊緣側AI發展,認為云端和邊緣終端AI協同工作的混合AI模式,能夠實現更強大、更高效的AI體驗。對目前流行的生成式AI,混合AI可充分利用邊緣側終端算力來降低成本,而且在隱私和安全方面也占盡優勢。

驍龍移動平臺是高通在終端側AI的重要布局,第二代驍龍8移動平臺搭載最先進的高通AI引擎,通過一系列軟硬件創新帶來更強大的算力和更高的效率,能充分滿足終端側AI應用,結合高通AI軟件棧和AI Studio提供全棧AI能力和優化手段,并與云端協同打造適應大模型時代的混合AI處理框架,創造手機端的新型AI體驗。
混合AI具有終端的快速響應能力,也具有云端的準確性,可自由的在云端和終端側之間分配負載,對在閾值以下的輕量級模型,推理即可完全在終端側進行。如果是更復雜的任務,模型則可以跨云端和終端運行,并在需要時通過云端來更正終端側的處理結果。
隨著生成式AI模型的不斷縮小,再加上終端側算力的高速提升,混合AI的潛力將會進一步增長。目前參數超過10億的模型已經能夠在手機上運行,性能與精度可以媲美云端。再加上終端側在本地運算的方式,對用戶隱私數據和安全性的優勢也相當明顯。

第二代驍龍8移動平臺的高通AI引擎賦予了手機端創新的AI體驗,并榮獲了2023世界人工智能大會SAIL獎——卓越人工智能引領者獎。SAIL獎作為人工智能領域高規格、國際化的獎項,在2023年持續追蹤人工智能技術發展、生成式人工智能引發的行業熱潮,探索AIGC催化的產業新業態,關注新一代人工智能的技術策源,加速AI新奇點與理論新發現的融合,用以獎勵在人工智能領域達到全球領先水平的創新技術和新型應用的項目。
第二代驍龍8實現端側生成式AI高效體驗
目前高通已經實現了在手機端通過模型來生成圖片,并且在WAIC現場進行了DEMO演示。首先是運用Stable Diffusion模型,通過給出TAG文字標簽讓AI模型在手機本地自動生成一張圖片。Stable Diffusion是可以在本地運行的,但是需要很高的配置,尤其是顯卡要求極高,否則生成一張圖片就要幾十分鐘的時間。高通的展示中,Stable Diffusion在一臺驍龍8 Gen2手機中運行,以本地化的端側算力,20個推理步驟不到15秒時間即可生成一張圖片,運行效率非常驚人。

除此之外,高通還展示了手機端ControlNet生成圖片的體驗,其同樣使用驍龍手機通過端側AI算力實現。ControlNet能夠讓生成的圖片高度受控,能夠利用預先提供的圖片特征,來精準控制生成圖片。比如簡單的手繪一張貓咪草圖,然后給AI相應的文字描述,之后AI就會以草圖為標準,生成符合TAG的圖片。

在高通的展示中,預先提供一張背影照片,在通過TAG標簽,即可讓AI精準生成一張身處海邊的黃昏時刻背影大片。而生成一張這樣的照片,只需要11.28秒的時間。
ControlNet解決了純文字生圖大模型無法定向控制生成圖片的難題,而能夠在端側實現快速生成圖片,離不開強大AI算力的支持。驍龍移動平臺的高通AI引擎采用異構運算,能夠同時調用CPU、GPU和Hexagon處理器,以達到最大化的運算效率。第二代驍龍8移動平臺在升級的高通Hexagon處理器支持下,張量加速器帶來4.35倍的AI性能提升,能效方面最高有60%提升。Hexagon處理器還提供專用供電系統、支持微切片推理、INT4精度、Transformer網絡加速等創新技術,可結合高通AI軟件棧和AI Studio提供全棧AI能力和優化手段。
第二代驍龍8移動平臺憑借超高算力助力終端側AI有的高效運算能力,同時兼顧了低功耗運算,滿足手機端對續航的需求,助力驍龍手機在終端側率先支持Stable Diffusion、ControlNet等生成式AI用例。
(本文轉自PChome)
申請創業報道,分享創業好點子。點擊此處,共同探討創業新機遇!