0.6秒！手機跑Stable Diffusion創下最快速度，而這僅僅是開始

　 阿里云優惠券 先領券再下單

導語：如今，隨著將大模型塞進手機的進程加快，普通用戶也能親自體驗生成式AI的魅力了。

2023 已經行至尾聲，這一年大模型和生成式 AI成為人工智能圈的主流趨勢。自ChatGPT 出現以來，各式各樣通用、專業的 AI 大模型層出不窮，噴涌之勢已經不可阻擋。隨著量化、網絡剪枝和知識蒸餾等模型壓縮技術進步，手機等終端設備AI算力持續增強，大模型在云端部署之外正在向終端落地邁進。

對于這場已經拉開了序幕的「終端側革命」，芯片巨頭和手機廠商們成為主力軍，他們不斷嘗試在手機等終端設備上部署運行生成式AI大模型，時不時給人們一點小小的驚喜和震撼。

今年2月，我們第一次看到了在手機上運行超過10 億參數的文生圖大模型Stable Diffusion。那是在一部搭載高通第二代驍龍 8移動平臺的安卓手機上運行的，不到15秒的時間執行20步推理，生成了一張512×512像素的圖像。這也創造了當時智能手機上最快的推理速度。

你以為這就是手機運行Stable Diffusion的速度極限了嗎?顯然不是。在上個月舉行的2023驍龍技術峰會上，不到15秒的生成時間又被整整縮短數十倍。高通最新旗艦移動平臺第三代驍龍8(以下簡稱驍龍8 Gen 3)讓速度飛升成為可能。

在峰會現場，高通用搭載了驍龍 8 Gen 3的手機運行相同的Stable Diffusion大模型，這次不到1秒(0.6秒)的時間便在本地生成了一張圖像。從15秒到0.6秒，終端側生成式AI大模型的進化速度讓我們驚嘆不已。

這只是高通在本屆驍龍技術峰會上展示其終端側AI能力的牛刀小試。除了生成速度(從 15 秒到 0.6秒)有了質的飛躍，驍龍8 Gen 3將支持運行的大模型參數規模(從10億到百億)提升一個量級。

大模型賦能平臺也不再局限于手機，高通下一代 AI PC 芯片驍龍X Elite亮相，將百億參數大模型「塞進」PC平臺，極大拓展了生成式AI應用的廣度。

至此，高通在終端側AI領域積累起來的領導力和技術領先性進一步得到加強，更賦予了手機、PC，甚至耳機等廠商更多終端AI落地的想象力和可能性。

雙平臺并進，讓生成式AI更加觸手可及

自今年2月以來，高通先后在搭載第二代驍龍8移動平臺的安卓手機上運行Stable Diffusion、ControlNet，讓大模型跑在手機端成為現實。此次驍龍峰會上發布的驍龍 8 Gen 3 將大模型終端側落地的潛力提升到了新的高度，使其自身繼續在該領域引領潮流。

據了解，驍龍8 Gen 3采用的高通AI引擎擁有面向移動終端的強大Hexagon NPU，集成了升級后的硬件加速單元、微切片推理單元、加強張量、標量和矢量單元，所有單元共享 2 倍帶寬的大容量共享內存。同時支持 INT8+INT16的混合精度以及 INT4、INT8、INT16和FP16的所有精度。性能較前代提升98%，能效提升40%。

驍龍 8 Gen 3 集成的高通傳感器中樞也更強，擁有2個始終感應ISP、2個micro NPU和1個DPS，內存增加了30%，支持INT4精度，AI性能提升了3.5倍。

可以說，驍龍 8 Gen 3賦予了手機前所未有的強大終端側AI性能，成為高通首個專為生成式AI打造的移動平臺。那么這款旗艦級移動平臺是否名副其實呢?這是我們大家最為關心的問題。

在該平臺上，高通AI引擎首次支持多模態生成式AI，包括了多種大語言模型、視覺語言模型等。尤其是在終端側，驍龍8 Gen 3 首次支持運行 100億參數的模型，規模邁入百億量級。同時將 Stable Diffusion 生成圖像的時間降到了1秒之內，再次創下最快速度。

在跑Meta大語言模型Llama2-7B時，驍龍8 Gen 3每秒可以生成20個token，同樣是手機終端側最快之一。

驍龍平臺已經支持運行OpenAI、Meta、微軟、安卓、stability.ai、BLOOM、百度、智譜、百川智能、有道等企業或機構的大模型，既為這些廠商將自身大模型能力「下放」到終端側提供契機，也為用戶體驗生成式AI帶來了豐富的選擇項。

牽一發而動全身，隨著高通在賦能大模型終端落地上的進一步動作，采用驍龍 8 Gen 3移動平臺的手機廠商快速跟進，加速了大模型集成到手機的進程。

以首發搭載驍龍 8 Gen 3移動平臺的小米14系列新機為例，AI大模型技術已經集成到小米全新澎湃 OS 中，并上線各種終端側應用。有了大模型能力加持，小米14 支持了 AI 妙畫、AI搜圖、AI寫真、AI擴圖等多項功能，讓輸入法、WPS、相冊煥發新的活力。

vivo旗下品牌iQOO 12系列同樣搭載了驍龍8 Gen 3移動平臺，全新高通AI引擎使其影像體驗大幅升級，照片質感和細節拉滿。同時該系列手機預裝的 OriginOS 4系統引入生成式AI功能，AI助手藍心小V可以進行超能語義搜索、超能問答、超能寫作、超能創圖、超能智慧交互，智能化程度明顯提升。此前在驍龍峰會上，榮耀CEO趙明宣布新旗艦手機榮耀Magic 6將搭載驍龍8 Gen 3移動平臺，已支持70億參數的終端側AI大模型，為用戶提供更加智能化的體驗。他在現場演示了終端側AI進行照片搜索、生成視頻等智能操作，效果著實不錯。手機終端融合大模型能力催生了大量或好玩、或有助于提升生產力的生成式 AI應用。未來更加豐富的生成式AI應用會讓更多用戶切身體驗到 AI的魅力，提升自身交互體驗，這也正是高通致力于在終端側打造生成式AI能力的重要源動力之一。

在持續利用AI賦能手機移動平臺之外，高通也在尋求利用并把握好大模型及生成式AI的發展契機，以此來重塑PC行業，擴大自身在AI領域的領先優勢。

生成式AI有了「第二陣地」

高通發布了面向PC 平臺的全新處理器驍龍X Elite，它采用4nm制程工藝，集成定制的高通Oryon CPU，運行速度是英特爾 12 核處理器的 2倍，功耗比英特爾競品低68%，高峰時段的運行速度比蘋果M2快了50%。

如果這些參數還無法讓你相信驍龍X Elite的強悍，那就跑個分吧。驍龍 X Elite 擁有兩個版本：注重續航表現的 23W 版本、主打性能的 80W版本。Geekbench 6測試下的單核和多核得分情況如下圖所示，單核性能尤為亮眼。

同樣地，驍龍X Elite專為AI打造。它采用業界領先的、集成高通Hexagon NPU的高通AI引擎，異構算力高達75TOPS，Hexagon NPU算力為45TOPS，為創意應用、視頻會議和生產力助手的變革性體驗提供了算力基礎。高通 AI引擎還支持了大量的加速應用程序和體驗，創造無限可能性。

超強生成式 AI 能力也成為驍龍X Elite的一大標簽，截止到發布時，它已支持在端側運行超過130億參數的生成式AI模型，面向70億參數大模型每秒生成30個token，AI處理速度是競品的4.5倍。下圖為PC端AI作畫能力的展示。

從手機到 PC，多樣化的端側平臺為釋放生成式 AI能力提供了更多渠道。這也表明，高通在終端側生成式AI落地這條賽道上繼續「加碼」，背后既離不開技術上的厚積薄發，也是其在大模型時代自身AI發展戰略的延續。

手機、PC加速迎來全新AI時代

在當今大模型時代，終端側部署生成式AI這條路線越來越明晰?；诖?，高通秉持「混合AI是AI的未來」這一理念和戰略，注重云端與終端的協同發展，并認為終端側AI是擴展生成式AI至全球更廣泛范圍的關鍵。

遵循這一前瞻性認知，高通一步步積累，逐漸在自身布局中構建了強大、全面的終端側AI能力，并引領了端側大模型及生成式AI的革新與進步。毫無疑問，此次驍龍峰會上發布的驍龍 8 Gen 3、驍龍X Elite將進一步夯實高通作為終端側AI領導者的地位。

如果大模型繼續保持當前的落地步伐，我們將可以在手機、PC 甚至XR可穿戴設備、智能網聯汽車等智能終端上體驗到更多生成式AI應用，讓人機交互更加自然且個性化。反過來，這些生成式AI應用以及帶來的體驗變革也將對這些終端設備產生深遠影響，甚至改變它們的核心驅動力，重新定義它們。

我們以與人們日常工作、生活息息相關的手機為例，在追求絕對性能之外，人們越來越多地關注一些創意性應用。這就需要AI大顯身手，生成式AI性能更是成為下一代手機處理器角逐的核心競爭力。

驍龍移動平臺近年來持續發力于此也在意料之中了。從去年的驍龍8 Gen 2 到此次驍龍峰會上的驍龍 8 Gen 3，AI 早已無處不在，生成式 AI 一躍成為「AI 皇冠上的新明珠」，受到了廣泛關注和青睞。

隨著大模型及生成式AI在手機終端落地的范圍越來越廣、成熟度越來越高，我們或許可以看到：傳統智能手機被生成式 AI 能力全方位加持的「AI 手機」所取代。小米等手機廠商新發布的旗艦機在這方面已經初具雛形，利用生成式AI增強一些場景的使用體驗和效率，為未來顛覆手機的質變做好了充分的量變。

同時，PC 終端的革新也有類似向生成式 AI 能力傾斜的發展趨勢。在這方面，集成到Windows 中的微軟 Copilot是一個很好的例證。當然還有更多生成式AI變革人類與 PC 交互的場景和方式，借此實現更高效的智能協作、更簡化的工作流程、更強大的生產力、更定制化的使用體驗。

驍龍 X Elite 一出手便瞄準生成式 AI，勢必會為當前的PC市場注入新鮮血液。在第六屆虹橋國際經濟論壇 ——「智能科技與未來產業發展」分論壇上，高通公司中國區董事長孟樸發表了主題演講，認為下一代 PC 將進入一個全新的「AI PC」時代，以智能、高性能、高效等為特點， 并將對辦公效率等方面產生重要意義。

相信未來高通會在驍龍 8 Gen 3 等移動平臺和驍龍 X Elite等PC平臺的基礎上，繼續加強自身在大模型和生成式AI上的基礎能力。加之更多搭載這些平臺的廠商發布全新旗艦手機和 PC 產品，他們不斷增強的自主性及自研能力可以讓我們期待更多樣化生成式AI應用的亮相。

不過，在「AI 手機」和「AI PC 時代」真正到來之前，還要看生成式AI能力是否能讓用戶產生強烈感知、是否能準確滿足他們的需求、是否能對相關應用產生依賴性、以及是否能帶動他們換機的欲望，這些都是高通和手機廠商現在及未來要考慮的問題。

結語

自發布以來，驍龍 8 Gen 3、驍龍X Elite展現出的強大生成式AI能力留給人們無限的想象空間。 正如高通公司總裁兼 CEO 安蒙所言，「我們正在進入將改變用戶體驗的生成式AI時代，也將創造一個移動行業和計算行業的全新周期?！?/p>

在這一進程中，作為終端側領導者的高通正擔負起應有的時代角色。一方面，利用自身強大的全棧AI優化能力匯聚軟硬件各方，助力終端側AI生態快速發展;另一方面，全新的跨平臺技術「Snapdragon Seamless」實現安卓、Windows 和其他操作系統無縫銜接，這種多終端體驗有望將 AI在手機、PC 等終端上的落地進一步拓展開來。

可以預見，基于驍龍生態的AI體驗會非?？焖黉佌归_來，各種應用落地的速度也將大大加快。未來，高通將繼續保持自身在終端側AI的技術優勢，推動大模型在部署應用時更便捷、更豐富、更有吸引力。同時，攜手各大廠商創新基于大模型的生成式AI應用，降低普通用戶使用生成式AI的門檻。

隨著新的生成式AI時代開啟，高通是否能持續滿足人們的期待，我想這次驍龍峰會已經給了我們答案。

(文章轉載自機器之心公眾號)

申請創業報道，分享創業好點子。點擊此處，共同探討創業新機遇！