【導讀】AI 智能體仍處于早期的發展階段，但使用規模正快速增長。根據美國知名風險投資機構 a16z 援引的 OpenRouter 數據，自2026年 2 月以來，智能體的 Token（詞元）使用量增長約 14 倍。從基礎設施的角度來看， AI 智能體就像擁有持久計算環境的虛擬用戶，能夠持久保持狀態、檢索上下文、調用工具和服務、執行任務，并持續評估執行結果，直至任務完成。
當數百萬甚至數十億個智能體全天候持續工作時，計算、內存、存儲和輸入/輸出（I/O）都必須在高并發環境下支持持續運行。這不僅對 CPU 提出了新的要求，也意味著業界需要建立新的評估標準，以測評系統處理智能體實際完成工作負載的能力。
構建面向虛擬用戶的數據中心
智能體 AI 正在推動 AI 數據中心多個環節的計算需求增長。CPU 在智能體維護上下文、調用工具和訪問數據的同時執行相關工作負載；在 AI 頭節點（head node）中，CPU 負責作業調度、數據準備和傳輸以及系統調度，以確保昂貴的加速器持續保持高效運轉。
與此同時，智能體還會催生更多云原生工作負載。每一次搜索、服務調用、代碼執行或數據請求，都會驅動底層基礎設施執行相應任務。智能體 AI 不會替代云原生工作負載，而是在現有云原生需求之上進一步疊加和放大新的需求。
隨著智能體的自主性不斷增強，并獲得更多工具和數據訪問權限，保障運行時安全的重要性也愈發凸顯。主機 CPU 可專注于執行智能體工作負載，而數據處理器（DPU）及其他基礎設施處理器則可為網絡、存儲、策略執行、遙測和隔離提供獨立的控制平面。從運行云計算和智能體工作負載的 CPU，到提供安全保障和基礎設施管控能力的 DPU， Arm 技術覆蓋這一系統中的兩大關鍵層面。
在本周的開放計算全球峰會（OCP Global Summit）上，這一設計趨勢正逐步在實際系統中落地。Arm 正在推進向 OCP 貢獻 Arm AGI CPU 服務器參考設計，而 Meta 的 Yosemite YV5 則將 Arm AGI CPU 引入 OCP 機架級設計之中。
衡量真正有意義的工作負載
CPU 性能的評估標準正在被重新定義。對于智能體計算，關鍵在于確保響應能力的同時, 系統能支持并發完成多少工作；對于 AI 頭節點，關鍵在于 CPU 能否高效地保持加速器處于高利用率狀態；對于云原生基礎設施，關鍵則在于能否快速且可預測地處理每項操作。
智能體工作負載凸顯了持續性能的重要性。如果吞吐量隨著系統資源利用率上升而下降，那么擁有更多的理論算力并不意味著能夠完成更多任務。真正重要的是，在功耗和物理條件的限制下，基礎設施能夠持續支撐多少實際有效的工作負載。
憑借長期服務全球超大規模數據中心的經驗，Arm 對計算需求的演變有著深刻的洞察。基于此洞察，Arm 開發了一套針對智能體 AI 的全新 CPU 性能測評方法，并獲得富士通（Fujitsu）、Meta 和 OpenAI 的支持。該框架基于三個原則：
具有代表性的智能體應用場景；
可重復的 CPU 性能測試方法；
端到端的結果驗證。
組件級測試有助于排除模型推理和網絡等變量的干擾，從而得以單獨評估 CPU 性能；而端到端評估則可用于判斷這些改進能否轉化為更好的任務完成效果。
隨著智能體架構和軟件持續演進，這套方法論也需要持續優化。
閱讀完整 Arm 方法論白皮書。
Arm AGI CPU 實測表現
基于上述方法論，Signal65 對 Arm AGI CPU 與 AMD EPYC Turin 在工具調用、編排、推理與規劃等工作負載中的表現進行了獨立驗證。兩個平臺均采用相同的基準測試腳本，并基于實測的服務器級性能數據, 構建清晰的機架級性能模型。
初步測試結果顯示：
單機架可承載近兩倍工作負載：在七項工作負載測試中，得益于更高的計算密度和更優的能效表現，相較 AMD EPYC（霄龍）9755，Arm AGI CPU平均實現 1.99 倍的機架級性能。
在智能體工作負載中展現卓越性能：Arm AGI CPU 在多個關鍵智能體應用場景中的機架級性能均優于對比平臺。其中，工具調用場景平均達到對比平臺的 1.7 倍，智能體工作流和任務編排場景達到 2 倍，推理與規劃場景達到 2.2 倍，展現出其滿足智能體 AI 多樣化計算需求的能力。
更快速、更敏捷的智能體執行：相較AMD EPYC（霄龍）9965，Arm AGI CPU 最多可將沙箱創建時延降低 45%，幫助智能體更快啟動隔離執行環境，降低智能體執行過程中的系統開銷。
機架級視角至關重要，因為數據中心始終受到功耗、散熱和物理空間的固定限制。尤其是在更多智能體和任務并發運行的情況下，基礎設施運營商最終需要了解系統在這些限制內能夠持續完成多少有效工作。
閱讀 Signal65 的獨立分析報告。
Arm AGI CPU 正是圍繞這些工作負載特征而設計，憑借高核心密度、每核心內存配置以及高帶寬 I/O 能力，支持智能體工作負載的持續運行。
隨著智能體從“響應提示詞”轉向“持續完成工作”，評估基礎設施能力的標準也應聚焦于其能否高效、穩定地完成實際工作，從單個智能體到整個機架皆是如此。更完善的測評方法可為業界提供更清晰的依據，以識別系統瓶頸、比較系統性能，并推動智能體基礎設施在規模化發展的過程中持續優化。
智能體 AI 性能評估的行業觀點
“隨著智能體 AI 持續發展，CPU 性能評估需要突破傳統指標，并能夠反映真實工作負載的基準測試。在開發下一代高性能、高能效 Arm 架構 CPU 產品 FUJITSU-MONAKA 的過程中，我們深知透明、可重復且具有代表性的測評體系的重要性。富士通歡迎 Arm 推動行業協作的這一舉措，并期待共同優化下一代 AI 基礎設施。”
富士通高級副總裁、先進計算開發事業部負責人 Toshio Yoshida
“隨著智能體 AI 進入生產部署階段，業界需要更清晰地了解不同工作負載如何利用底層基礎設施資源。我們支持 Arm 推動建立更加一致的對比標準，并相信這將有助于為系統未來的演進提供參考。”
Meta 軟件工程師 Abhishek Dhanotia
“AI 系統正從生成內容逐步發展為能夠通過推理、使用工具以及與軟件環境交互來完成復雜任務。隨著智能體能力提升并得到更廣泛部署，理解支撐這些工作流的基礎設施性能，包括任務編排與工具執行等環節的重要性日益凸顯。圍繞具有代表性的基準測試開展行業協作，對于刻畫這些新興的工作負載并優化整個 AI 系統的性能至關重要。”
OpenAI 全球前沿部署工程負責人 Colin Jarvis
結論
AI 智能體可以持續維護上下文、調用工具執行任務，高并發場景對數據中心 CPU、內存、IO 與安全隔離提出全新需求，傳統跑分指標難以衡量實際業務能力。Arm 提出的評測框架，結合組件測試與端到端驗證，從機架功耗、散熱、空間約束等真實條件評估系統持續負載能力。實測證明 Arm AGI CPU 依靠更高的計算密度與能效，更適配智能體編排、工具調用等工作流。富士通、Meta、OpenAI 均認可建立標準化智能體基準測試的價值，這套評估體系能夠幫助行業定位系統瓶頸，持續迭代面向 AI 智能體的數據中心基礎設施。
