人工智能 安全治理 術語標準立項發展報告

人工智能安全治理術語標準立項發展報告StandardizationDevelopmentReport:AISecurityGovernance-Terminology摘要本報告圍繞行業標準《人工智能安全治理術語》（標準編號：YD/T7073-2026）的立項與制定工作，全面闡述了其研究背景、核心內容、重要結論及未來展望。隨著人工智能技術的飛速發展與廣泛應用，其帶來的安全風險與治理挑戰日益凸顯，統一、規范、權威的術語體系已成為構建安全可信人工智能生態的基石。目前，國內外雖已發布多份涉及人工智能術語的標準，但在安全治理這一垂直維度上仍存在術語定義模糊、概念邊界不清、跨領域溝通壁壘等問題，嚴重制約了政策制定、技術研發、合規審查及產業協作的效率。本標準基于對人工智能安全治理領域最新技術進展、政策法規及產業實踐的深入研究，系統梳理并定義了包括人工智能安全、可信人工智能、人工智能治理、人工智能風險管理、人工智能安全評估、人工智能倫理、算法公平性、數據安全、模型魯棒性、攻擊與防御等在內的核心術語及其概念體系。報告指出，該標準的制定填補了國內在人工智能安全治理術語領域的標準空白，其發布與實施將有效促進相關各方對核心概念的共識，提升溝通效率，為后續技術標準、管理規范及法律法規的制定提供了統一的語言基礎，對推動我國人工智能產業安全、健康、可持續發展具有重大的戰略意義和現實價值。關鍵詞人工智能；安全治理；術語標準；可信人工智能；數據安全；算法公平；標準化Keywords:ArtificialIntelligence；SecurityGovernance；TerminologyStandard；TrustworthyAI；DataSecurity；AlgorithmFairness；Standardization正文1.引言當前，人工智能正以前所未有的深度和廣度賦能經濟社會發展，深刻改變著生產生活方式。然而，人工智能技術的雙刃劍效應也日益顯現，算法歧視、數據泄露、模型魯棒性不足、生成式人工智能的濫用等安全風險頻發，對國家安全、社會穩定和公民權益構成了嚴峻挑戰。在這一背景下，“人工智能安全治理”作為確保技術向善、防范化解系統性風險的關鍵領域，已成為全球共識。然而，人工智能安全治理作為一個交叉學科和新興領域，涉及計算機科學、信息安全、倫理學、法學、公共管理等眾多學科。各研究主體和產業界在“什么是人工智能安全”、“什么是可接受的風險”、“什么是算法公平”等核心概念上，往往存在不同的理解和界定。這種概念上的模糊與分歧，直接導致了政策制定難以統一、技術研發缺乏靶向、安全評估標準不一、跨領域對話成本高昂等問題。術語的混亂已成為制約該領域深入發展和有效治理的“卡脖子”難題。因此，制定一套統一、規范、科學的人工智能安全治理術語標準，不僅是解決上述問題的迫切需求，更是構建我國人工智能安全治理體系的奠基性工程。2.標準編制背景與目標2.1國內外標準現狀與存在問題在國際層面，國際標準化組織（ISO）和國際電工委員會（IEC）已發布ISO/IEC22989《人工智能概念與術語》，國際電信聯盟（ITU）也發布了多項相關研究報告。這些標準為人工智能領域提供了宏觀的術語框架，但其側重于通用概念，對“安全治理”這一具體、復雜的子領域，尤其是涉及到對抗性攻擊、數據投毒、模型中毒、可解釋性、公平性審計等專業術語的定義尚不夠深入和系統。在國內層面，國家市場監督管理總局、國家標準化管理委員會發布了GB/T41867-2022《信息技術人工智能術語》，同樣提供了基礎性的概念。但這些標準存在以下共性問題：*領域聚焦不足：通用術語標準無法涵蓋人工智能安全治理特有的、高專業度的概念（如“提示注入攻擊”、“模型幻覺治理”、“憲法式AI”等）。*概念邊界模糊：對于“安全”與“可信”、“治理”與“監管”、“風險管理”與“安全評估”等關聯但不等同的概念，缺乏清晰的界定和層級關系。*缺乏動態性：面對生成式人工智能、大模型等新技術的快速迭代，現有標準在應對新風險和新治理模式時顯得滯后。2.2本標準的目標與定位本標準（YD/T7073-2026，以下簡稱“本標準”）作為行業標準，旨在精準填補上述空白。其核心目標是：*統一共識：為人工智能產業鏈上的技術研發者、產品提供者、服務運營者、安全評估機構、行業監管者及廣大用戶提供一套權威、統一的術語定義，形成行業共同的語言體系。*支撐政策：為國家和地方制定人工智能安全治理相關的政策法規、管理辦法、技術指南提供堅實的術語基礎，避免因概念歧義導致的政策執行偏差。*賦能技術：明確關鍵安全屬性的內涵與外延，為安全產品開發、安全測試、模型審計等工作提供清晰的目標和度量抓手。*促進交流：降低跨組織、跨領域、跨國界的溝通成本和認知鴻溝，推動國內外在人工智能安全治理框架下的有效合作。3.標準主要內容本標準系統構建了人工智能安全治理的術語體系，內容涵蓋但不限于以下五個核心類別：（一）基礎概念與框架類*人工智能安全(ArtificialIntelligenceSecurity)：指在人工智能系統的設計、開發、部署、運行和退役全生命周期中，保護人工智能系統免受各種形式的威脅、破壞和誤用，確保其功能、性能和數據的保密性、完整性、可用性的能力。*可信人工智能(TrustworthyAI)：指人工智能系統在滿足技術可靠性的基礎上，還具備可解釋性、公平性、隱私保護性、透明度、責任歸屬和可控性等特征，從而贏得用戶和社會的信任。*人工智能治理(AIGovernance)：指通過制定規則、政策、標準和制度，協調利益相關方，對人工智能系統的研發、應用及其社會影響進行規范和引導的體系化活動。（二）風險與威脅類*人工智能風險管理(AIRiskManagement)：識別、評估、控制和監控人工智能系統可能引發的各類風險（如安全風險、隱私風險、算法公平風險、社會倫理風險）的系統化過程。*對抗性攻擊(AdversarialAttack)：通過精心設計的輸入樣本（對抗樣本）來欺騙或誤導人工智能模型，使其產生錯誤輸出，從而破壞模型性能和可靠性的行為。*數據投毒(DataPoisoning)：在模型訓練階段，通過向訓練數據集中注入惡意或錯誤數據，以操控模型行為或引入后門攻擊的威脅。*模型幻覺(ModelHallucination)：尤其在生成式大模型中，模型生成看似合理但與事實不符或無意義的內容的現象。（三）安全屬性與能力類*魯棒性(Robustness)：人工智能系統在輸入數據存在噪聲、擾動或被干擾（包括無意的和有意的）的情況下，能夠保持穩定、可靠、正確輸出的能力。*可解釋性(Explainability)：人工智能系統能夠以人類可理解的方式，對其決策過程、結果或內部工作機制進行解釋和說明的能力。*公平性(Fairness/AlgorithmFairness)：人工智能系統在不同人群、不同場景下，避免產生不合理的歧視性結果或偏見，并保障機會均等的能力。*模型可轉移性(ModelTransferability)：一個模型（特別是其攻擊能力或特征）可以被直接應用到另一個不同但任務相似的模型上的能力。（四）評估與審計類*人工智能安全評估(AISecurityAssessment)：依據標準、規范或方法論，對人工智能系統的安全性、魯棒性、隱私保護等屬性進行測試、驗證和評價的過程。*人工智能審計(AIAudit)：對人工智能系統的開發、訓練、部署及運行過程，特別是其數據、算法、模型和決策結果進行系統性、獨立性的審查，以評估其合規性、風險水平及治理有效性。*基準測試(Benchmarking)：使用標準化的測試數據集和評估指標，對人工智能模型在特定任務上的性能（如魯棒性、公平性）進行橫向比較和評價。（五）倫理與法規類*人工智能倫理(AIEthics)：指導人工智能研發和應用的基本原則和價值規范，如以人為本、隱私尊重、非惡意、責任問責等。*算法共謀(AlgorithmicCollusion)：多個人工智能系統通過自主學習，在無需人類明確溝通的情況下，達成默契并實施壟斷定價等反競爭行為。*差分隱私(DifferentialPrivacy)：一種強大的隱私保護技術，它通過在分析結果中添加噪聲，使得攻擊者無法推斷出數據集中任何特定個體的信息。4.標準制定的組織與參與單位該標準由工業和信息化部主管，并由中國通信標準化協會（CCSA）提出并歸口。標準的主要起草工作由中國信息通信研究院（簡稱“中國信通院”）牽頭，聯合了包括百度、阿里巴巴、騰訊、華為、螞蟻集團、科大訊飛、奇安信、啟明星辰、北京大學、清華大學等在內的數十家國內頂尖的人工智能研究機構、頭部科技企業、網絡安全廠商及高校。主參單位詳細介紹：中國信息通信研究院中國信息通信研究院（ChinaAcademyofInformationandCommunicationsTechnology，簡稱“中國信通院”）是工業和信息化部直屬的科研事業單位。多年來，中國信通院深度參與并主導了我國信息通信領域的多項關鍵政策制定、標準體系規劃和技術研究，是國家在信息社會建設中的重要智庫和技術創新引擎。在人工智能領域，中國信通院早在2017年即成立人工智能研究中心，是國內最早系統開展人工智能政策、產業、技術及安全治理研究的機構之一。在安全治理方面，中國信通院承擔了多項國家級重大任務，包括支撐國家新一代人工智能治理專業委員會工作，參與起草《新一代人工智能發展規劃》、《人工智能安全治理框架》等頂層設計文件。同時，作為ISO/IECJTC1/SC42（人工智能分技術委員會）的國內技術對口單位，中國信通院長期代表中國參與人工智能國際標準化工作，將國內實踐經驗與國際標準相銜接。5.標準的預期影響與實用價值本標準的發布與實施將對我國人工智能安全治理領域產生深遠影響：*規范行業發展：為人工智能產品的研發、測試、評估和認證提供了統一的技術語言，有助于形成市場準入的明確準則，淘汰不合規的能力，引導產業向更安全、更可信的方向發展。*支撐監管執法：為網信、工信、公安、市場監管等監管部門提供了明確的執法依據和量化指標，有助于提升監管的精準性和有效性，特別是針對生成式人工智能等新興業態的風險防控。*提升國際話語權：本標準將積極對接并影響國際標準（如ISO/IEC42001《人工智能管理體系》），推動中國在人工智能安全治理領域的理念與實踐走向全球，提升我國在該領域的規則制定權和影響力。*促進產學研融合：為高校和研究機構的學術研究提供了清晰的概念邊界，有利于催生更多面向實際問題的解決方案，并加速科技成果向產業標準的轉化。結論《人工智能安全治理術語》（YD/T7073-2026）標準的立項與研制，是我國在構建完善的人工智能標準體系進程中邁出的關鍵一步。它不僅解決了當前人工智能安全