近日,微软在Ignite大会上宣布启动AI透明度计划(AI Transparency Initiative),联合埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等40多家组织,共同推动建立适用于不同AI模型和服务提供商的开放标准,以提升AI系统的透明度、安全性和治理能力。

对此,微软董事长兼CEO萨提亚·纳德拉表示,公司将与客户及合作伙伴合作,推动建立一套开放、通用的AI安全与治理框架。
微软方面认为,随着AI智能体(Agent)逐渐接入企业内部数据、工具、凭据和基础设施,其已经能够在不需要人类逐步审批的情况下自主执行任务。但现有安全管理机制通常只能观察到AI活动的部分信息,难以完整还原模型从接收请求到执行操作的过程,也无法独立验证模型对自身行为的描述。
据悉,AI透明度计划主要包括三个方面。一是扩大对美国国家标准与技术研究院(NIST)AI智能体标准计划的参与,推动制定AI透明度、安全性和治理方面的行业开放标准;二是联合40多家组织建立适用于不同模型和服务提供商的开放标准,同时覆盖闭源模型和开放权重模型;三是将相关成果整合到Microsoft AI、Microsoft Foundry和Microsoft Copilot产品及服务中,让企业能够将AI活动产生的证据接入微软或其他供应商的安全与合规工具。

在具体实施层面,微软将相关标准划分为观察、验证和控制三个环节。其中,观察环节要求企业了解AI接收的指令、获得的授权、使用的模型和运行环境,以及访问的数据、工具和执行的操作,并持续监控智能体活动及风险信号。
验证环节强调不能仅依赖AI智能体自身提供的信息证明其行为,而是需要结合模型、运行环境、身份认证和策略管理等独立系统的记录,对智能体身份、授权意图及实际操作进行交叉验证。
控制环节则要求企业保留对AI权限的管理能力,包括限制智能体能够访问的数据、执行的操作和获得的授权。在发生安全事件时,企业还可以通过相关记录还原事件经过,用于调查、风险控制、恢复和审计。
微软方面表示,随着AI智能体进一步融入企业运营,组织仍需要对其行为承担责任,不能将AI本身作为规避责任的理由。

此前,微软已经持续在推进AI安全治理。早在2018年,该公司就已确立公平性、可靠性与安全性、隐私与安全、包容性、透明度和问责制这六项负责任AI原则。2019年,微软成立负责任AI办公室(ORA),并推出首版《负责任AI标准》,将相关原则落实到AI系统开发和部署流程中。2022年,微软发布第二版本,同时调整Azure Face人脸分析服务,限制部分人脸属性推断功能的使用。
2024年5月,微软方面发布首份《负责任AI透明度报告》,披露AI风险评估、红队测试和安全治理等工作。2025年2月,该公司进一步推出《前沿治理框架》,针对生物化学武器、网络攻击和高级自主性等领域设定AI能力风险等级及相应审查措施。同年6月,微软发布第二份透明度报告,将前沿AI风险治理纳入披露范围。
【本文图片来自网络】
