共计 1745 个字符，预计需要花费 5 分钟才能阅读完成。
引领全球 AI 安全新标准，推动大模型供应链安全
在 2024 年外滩大会上，全球人工智能领域迎来重大里程碑。由世界数字技术院（WDTA）联合多家国际知名企业和研究机构共同制定的首个大模型供应链安全国际标准正式发布。这一标准由云安全联盟（CSA）大中华区、蚂蚁集团、微软、谷歌、Meta、PrivateAI 等众多单位的专家共同参与编写，填补了行业在大模型供应链安全方面的空白，成为国际合作的重要标志。这一举措彰显了全球在人工智能治理上的坚定决心与合作意愿，为大模型的安全构建了坚实基础。
联合国科学和技术促进发展委员会执行主席、世界数字技术院创始理事长 Peter Major 指出，随着人工智能继续渗透到全球各行各业，建立统一的国际标准变得尤为重要。这不仅有助于树立公众对 AI 技术的信任，还能推动创新，确保不同地区、不同产业中的 AI 系统安全、可靠、负责任地运行。标准的制定也为国际社会提供了合作的平台，促进全球人工智能技术的健康发展。
标准意义深远，为行业提供系统性安全管理框架
云安全联盟（CSA）大中华区主席李雨航强调，大模型的运行依赖于复杂且全球分布的供应链生态系统。当前，大模型的广泛应用带来了巨大的机遇，但同时也暴露出供应链层面一系列安全挑战。此次发布的《大模型供应链安全要求》标准，旨在为行业提供一套完整、系统的安全管理方案，覆盖从数据准备、模型开发到部署和运行的每个环节。
该标准详细定义了供应链中的潜在安全风险，包括数据泄露、模型篡改、供应商合规性等问题，还列出了典型的安全案例和应对措施。这使得行业能够更好地识别和评估大模型在生命周期中可能面临的安全隐患，从而有效保障供应链的完整性、保密性和可用性。这样的标准不仅适用于大模型开发和运营，也为第三方机构和监管部门提供了操作依据，增强行业整体的安全可信度。
推动国际合作，实现 AI 治理的共同目标
WDTA 成立于 2023 年 4 月，是在日内瓦注册的非政府组织，致力于推进全球范围内的数字技术标准化和合作。其 AI 安全、可信、负责任（AI STR）系列标准，已得到多家国际科技巨头的支持，包括微软、谷歌、蚂蚁集团等。今年 4 月，WDTA 再次推出在全球范围内具有重要影响的两项大模型安全国际标准，彰显其在引领人工智能治理方面的重要作用。
在当今人工智能快速发展的背景下，如何平衡创新与安全已成为国际共同关注的问题。我国也积极制定政策，推动人工智能治理体系建设，包括《全球人工智能治理倡议》和《国家新一代人工智能标准体系建设指南》等。大会期间，专家们纷纷表达了对未来合作的期待，共同推动形成具有全球影响力的人工智能安全治理共识。
行业责任与创新实践，推动 AI 安全制度落实
来自全国网络安全标准化技术委员会的闵京华指出，确保 AI 系统的安全性和可信赖性，离不开行业多方的协作。从政策法规到技术标准，再到安全产品的研发，每一环都至关重要。技术标准作为凝聚行业智慧的核心纽带，有助于行业统一安全底线，确保人工智能的价值真正得以实现。
蚂蚁集团的王维强则强调，作为科技行业重要的责任，企业应持续关注 AI 安全问题。从技术研发到风险评估，都应将安全放在首位。蚂蚁集团自主研发的大模型安全解决方案“蚁天鉴”，已经面向多家合作伙伴提供，展现了其在可信 AI 方面的行业领导力。这种创新实践，为行业树立了标杆，也为实现大规模、安全可靠的 AI 应用提供了有力保障。
未来展望：赛事激发创新，推动行业健康发展
在此次论坛上，宣布了国内首个大模型攻防主题的科技竞赛——“全球 AI 攻防挑战赛”。该赛事探讨 AI 产业中的安全策略，设有攻击与防守两大赛道，吸引众多技术人才参与。在比赛中，要通过检测、识别模型滥用风险、提升模型安全性，获胜者将获得百万元奖金。这一赛事由多家学术和产业机构联合举办，旨在激发行业创新，提升技术能力，直面大模型未来潜在的安全风险，为产业的健康发展保驾护航。
此外，会议还重磅发布了《AI 可信度分析》报告。由中国电信、西安电子科技大学、蚂蚁集团等机构共同编写，全面剖析了人工智能在实际应用中的可信性问题。从可靠性、安全性到透明度和公平性，提出了一系列应对策略，为行业发展提供指导。未来，随着技术的不断成熟与标准的逐步完善，人工智能将朝着更加安全、透明、可信赖的方向迈进，为人类带来更加深远的影响。
