【導讀】2026驍龍峰會期間,高通技術公司宣布攜手階躍、無量火與江波龍開展四方合作,基于第六代驍龍? 8超級至尊版移動平臺,將階躍StepEdge-Omni 30B-MoE(混合專家)模型面向端側進行深度適配與推理優(yōu)化,成功打造具備自主服務和個性化能力的端側智能體助手,并在峰會現(xiàn)場完成基于高通參考設計的現(xiàn)場演示,驗證了復雜智能體AI工作流在智能手機上的高效部署與規(guī)模化擴展能力,進一步加速智能體AI體驗走進更多終端和廣大消費者。
基于第六代驍龍8超級至尊版移動平臺的強大AI性能基礎和完整軟件棧支持,江波龍?zhí)峁┑亩藗華I存儲解決方案,模型權重可從端側閃存高效加載,通過存儲與計算協(xié)同減少大模型對運行內存的持續(xù)占用,進一步提升模型加載和運行效率,成功打造端側智能體助手,實現(xiàn)從郵件理解到行程規(guī)劃、日歷同步、航班酒店推薦、行程分享到郵件草擬的全鏈路自主辦公,全程本地完成,無需云端調用。得益于NPU+GPU雙引擎協(xié)同,模型預填充吞吐性能超過330 Token/s,對比僅使用NPU的通用推理方案提升超過30%,解碼吞吐性能超過28 Token/s,并能保持持續(xù)穩(wěn)定運行,且首個詞元生成速率達到毫秒級,對比云端API調用快數(shù)倍至數(shù)十倍。
從AI PC到AI手機,江波龍端側AI存儲方案加速落地
江波龍這套端側AI存儲解決方案由iSA?存儲智能體與搭載慧憶微自研主控的UFS 4.1存儲芯片共同支持。UFS 4.1存儲芯片為端側AI推理提供可調度容量、高性能傳輸?shù)幕A,iSA?則是江波龍行業(yè)獨有的、專為端側AI推理場景打造的存儲智能調度引擎,兩者軟硬件協(xié)同構成端側AI場景下的先進存力。
iSA?存儲智能體圍繞 AI 數(shù)據(jù)的訪問特點與計算時序,協(xié)同設計存儲介質、數(shù)據(jù)布局、主控和固件。
在數(shù)據(jù)組織上,針對模型權重、MoE Expert 和 KV Cache 的不同特點,優(yōu)化分層存放、訪問粒度和生命周期管理,提高有限內存與存儲資源的使用效率。
在數(shù)據(jù)供給上,通過預取提示、關鍵讀取優(yōu)先、后臺維護協(xié)調和設備狀態(tài)反饋,讓存儲訪問更好地匹配推理節(jié)奏,以減少計算等待、改善持續(xù)運行體驗為目標。
在壽命管理上,針對 KV Cache 卸載帶來的額外寫入,通過優(yōu)化寫入策略、數(shù)據(jù)放置和回收機制,并結合介質壽命反饋,通過介質調優(yōu)并優(yōu)化寫放大,減少不必要的 NAND 擦寫,延長存儲使用壽命。
此前,江波龍端側AI存儲方案已在AI PC和AI移動工作站場景完成能力驗證。此次在移動端平臺的適配與演示,進一步驗證了該方案的跨平臺復用能力,也為后續(xù)規(guī)模化商用奠定了基礎。
系統(tǒng)級存算協(xié)同,共促端側AI落地
端側AI推理對存儲提出新要求,常規(guī)標準存儲難以高效響應MoE參數(shù)調度、KV Cache膨脹和多輪對話的I/O節(jié)奏。為此,江波龍與推動存儲端與SoC端聯(lián)動,讓存儲參與端側AI推理數(shù)據(jù)調度:理解推理節(jié)奏、預判數(shù)據(jù)需求、提前準備。30B MoE大模型在智能手機上的完整部署,正是這一系統(tǒng)級協(xié)同的創(chuàng)新實踐。
江波龍副總裁、嵌入式存儲事業(yè)部總經理黃強表示:"端側AI的規(guī)模化落地,離不開算力與存儲的深度協(xié)同。江波龍將行業(yè)獨有的iSA?存儲智能體,率先適配高通第六代驍龍8超級至尊版,通過存算協(xié)同釋放平臺算力價值,突破端側大模型推理存儲瓶頸。期待與高通持續(xù)深化生態(tài)協(xié)作,共同打造高性能端側AI解決方案,為終端用戶帶來更穩(wěn)定、可靠的本地AI體驗。"
結論
本次四方合作基于第六代驍龍8超級至尊版移動平臺,完成了30B混合專家模型的手機端高效部署,依托軟硬件協(xié)同優(yōu)化,實現(xiàn)了全鏈路本地自主辦公服務,擺脫了對云端調用的依賴,大幅提升了終端服務的響應速度與運行穩(wěn)定性。通過NPU與GPU雙引擎協(xié)同、存儲智能調度引擎與高性能存儲芯片的搭配優(yōu)化,設備模型加載、數(shù)據(jù)解碼、首詞響應等核心性能大幅提升,有效解決了大模型運行內存占用過高、存儲讀寫損耗大、運行卡頓等問題。
江波龍端側存儲解決方案具備成熟的跨平臺適配能力,此前已在AI PC、AI移動工作站完成驗證,此次移動端的成功落地,充分證明了方案的通用性與實用性。算力與存儲的深度協(xié)同模式,突破了終端設備大模型部署的存儲瓶頸,最大化釋放了驍龍平臺的硬件性能。未來,隨著產業(yè)鏈生態(tài)協(xié)作的持續(xù)深化,這套成熟的端側軟硬件解決方案,將加速在各類終端設備規(guī)模化商用,為消費終端帶來更穩(wěn)定、高效、本地化的智能服務體驗,持續(xù)推動終端智能化技術的落地普及。


