共计 1751 个字符，预计需要花费 5 分钟才能阅读完成。
根据《全球数字经济白皮书（2024）》的数据，目前全球有约 3 万家人工智能核心企业，以及超过 1300 个人工智能基础大模型。人工智能技术的快速发展，正以前所未有的速度重塑我们的生活，推动人类进入智能时代。然而，科技的变革也带来了新场景和新市场，同时也伴随着前所未有的伦理风险和挑战。
在 9 月 5 日举行的 2024 Inclusion·外滩大会“以善治促‘善智’，让 AI 更负责任”论坛上，来自学术界和产业界的专家们汇聚一堂，共同探讨如何在 AI 的开发和应用中，确保其更具责任感，从而造福人类社会。AI 治理显得尤为紧迫，而中国正在努力为全球 AI 治理贡献“中国智慧”。
工业和信息化部前副部长杨学山在致辞中指出，当前的人工智能发展潜力巨大，但同时也带来了不少风险和挑战。他强调，在推动人工智能技术发展和应用的同时，确保其安全性、可靠性和可控性至关重要。最近，主要经济体如美国、中国和欧盟正在探索人工智能治理模式，并制定相应的法律法规和政策，以保持在国际竞争中的战略优势。作为负责任的人工智能大国，中国不仅在国内逐步建立治理体系，还积极向全球提供治理经验。他希望通过政策、产业和学术界的联合探索，找到有效的治理路径。
中国工程院院士吴世忠认为，AI 治理可以借鉴历史经验。他提出，我们正处于 AI 发展的“奥本海默时刻”，即科技可能改变人类命运的时刻，因此必须具备忧患意识。他对比了核控制、疾病控制和 AI 治理的相似性，指出这些都是人类发展过程中需要重视的时刻。经历从国际合作到建立透明度和信任机制等方面的宝贵经验，我们也需要发展适合 AI 的更科学治理方法。
在面对严峻挑战时，有些学者则提出应采取更为谨慎的态度。清华大学教授梁正认为，我们需要从更长远的视角来看待 AI 技术的发展，拿飞机和汽车的历史作为例子，表明所有技术的发展都会伴随挑战，但最终的好处往往超出了我们的想象。他强调发展与治理之间的平衡，治理应服务于技术发展。
联合国人工智能高层顾问机构的专家曾毅同样强调了安全与治理在 AI 中的核心地位。他指出，增强安全性和治理能力为 AI 的稳健发展和应用提供保障，这并不意味着能力的下降或发展速度的减缓，相反，建立主动的风险防范机制是提升人工智能能力的关键。他相信人工智能能够帮助人类追求本真的道路，而人类在完善自我的过程中永远不会被取代。
人工智能大模型广泛应用于各个领域，科技伦理成为企业战略的重要组成部分，防范大模型的误用和滥用，是企业对客户和社会的责任。在论坛上，与会的企业代表分享了各自在大模型应用与伦理方面的探索。
早在 2016 年，微软 CEO 萨提亚·纳德拉便曾指出，讨论的关键在于如何传递创造技术的价值观。微软（中国）有限公司的首席技术官韦青表示，微软始终致力于在设计阶段就建立安全、值得信赖的 AI 系统，并分享了在打造“负责任”的 AI 大模型方面的实践经验。
Minimax 海外业务总经理盛静远谈到，与全球用户的互动需要处理大量数据，展示了其多模态通用大模型的应用，并分享了在治理领域的实践经验。人工智能大模型正在各行各业加速落地，特别是医疗和金融等严谨行业，对伦理规范的要求也更高。在医疗领域，讯飞医疗研究院副院长赵景鹤分享了大模型在应用中的进展，指出数据隐私、知识产权和道德责任是主要问题，并强调企业应采取有效措施保护数据和确保合规性。
蚂蚁集团则在推动 AI 大模型的应用上充分发挥专业智能体的作用，依据自研的大模型应对生活、金融和医疗等场景。蚂蚁科技伦理委员会联席主席周志峰认为，AI 伦理建设需要适应三个重点趋势：服务的“人情味”、主动的风险防控，以及有效的协同服务。他还介绍了蚂蚁在识别用户意图、全链路风险工具的建立，以及应对隐性风险的措施。
在论坛的最后，来自中国政法大学、北京协和医学院、复旦大学和上海交通大学的学者，以及来自华为和腾讯的产业专家，就 AI 大模型在严谨行业中的伦理挑战进行了讨论。他们认为，大模型在应用中的挑战涉及真实性、价值观的契合以及创造更美好生活的最终目标。
引导 AI 服务于人类福祉是社会各界必须重视的议题。几乎所有专家与企业代表都达成共识，完善人工智能的伦理治理体系不仅需要个别公司的努力，而需要全球范围内的合作。政府、产业、学术界多方联合，共同探索 AI 治理的系统解决方案，才能确保 AI 的发展符合人类的良好价值观。
