新聞資訊
海量資訊實時呈現
破解大模型 AI “黑箱”難題, 三維天地牽頭研制神經網絡可解釋評估標準 為產業高質量發展賦能
2025-12-10
12月1日,人工智能領域標準化工作取得重要進展,中國電子學會正式發布《神經網絡關鍵特性可解釋評估要求》團體標準。該標準由北京三維天地科技股份有限公司牽頭,聯合大連理工大學、工業和信息化部電子第五研究所、清華大學等權威機構共同研制,將于2026年1月1日起正式實施。此舉標志著我國在神經網絡可解釋性評估領域建立了首個系統性規范,填補了國內外相關標準的空白。
隨著神經網絡,特別是大模型的深度應用,其運行效率、抗干擾能力不足以及普遍存在的“黑箱”問題,日益成為制約人工智能技術在工業生產、自動駕駛、醫學診斷等關鍵復雜場景中可靠落地與廣泛推廣的瓶頸。提升神經網絡的可解釋性、可靠性與適用性,已成為推動人工智能高質量發展、落實國家相關戰略部署的核心攻關方向。
《神經網絡關鍵特性可解釋評估要求》標準應運而生,旨在系統性地解決上述挑戰。標準聚焦于神經網絡的結構冗余性、抗噪聲干擾性及預測可靠性等關鍵性能,首次提出了一套可解釋的評估框架。該標準詳細規定了評估方法、輸入要求、操作流程、量化指標、性能等級劃分及實施規范,為客觀、公平、可靠地衡量神經網絡核心性能提供了統一標尺。
業內專家指出,盡管網絡剪枝、魯棒性評估等技術已廣泛研究,但現有方法多缺乏可解釋性,評估結果往往停留于概括性判斷,難以保障客觀公平,也無法靈活適配多樣化任務場景,其可信度與實用性因此受限。新標準基于可解釋性理論,致力于構建一套多等級、全客觀、可解釋的關鍵性能評估體系,有望實現對神經網絡設計、訓練、部署到維護的全生命周期關鍵性能進行實時檢測與評估,為產業健康發展注入標準動能。
評審專家一致認為,該標準提出的評估方法和技術手段具有顯著創新性,達到了國際先進水平。它的發布與實施,不僅將直接助力提升人工智能產品的可靠性與透明度,增強用戶信任,更將為我國人工智能技術創新和產業生態的規范化、高質量發展提供至關重要的基礎支撐。
供應鏈與云服務
關注我們
Copyright ? 2022 北京三維天地科技股份有限公司,All rights reserved. 京ICP備10208408號-2
京公網安備 11010602103901號







股票代碼:301159.SZ