共计 1408 个字符，预计需要花费 4 分钟才能阅读完成。
近日，一封呼吁暂停 GPT- 5 及以上级别 AI 技术研发的公开信引发了广泛关注，众多科技领袖就此展开激烈讨论。这一倡议迅速成为全球 AI 社区关注的核心话题。
公开信由上千名科技专家联署，提议暂停六个月的超级 AI 训练，以评估其潜在风险。然而，此举却引发了截然不同的反应。其中，图灵奖得主 Geoffrey Hinton 保持沉默，Yoshua Bengio 则坚定支持，而 Yann LeCun 则持反对意见。
吴恩达的平衡主张
作为人工智能领域的资深专家，吴恩达对这一倡议提出了尖锐批评。他认为，暂停研发六个月并非合理方案，反而可能导致技术进步停滞。吴恩达指出，AI 已在医疗、教育等多个领域展现巨大潜力，其带来的益处不可忽视。他主张通过加强透明度和监管来提升 AI 安全性，而非一味叫停研究。
吴恩达同时反驳了信中提出的政府干预主张，认为这可能带来反竞争效应，并对新兴产业造成负面影响。尽管他承认 AI 存在一定的风险，但他强调，大多数 AI 团队在开发过程中高度重视安全性。他总结道，真正的解决方案应着眼于长远规划，而非短期限制。
LeCun 的质疑与反思
作为 Facebook 母公司 Meta 首席 AI 科学家，Yann LeCun 明确表示反对暂停倡议。他指出，所谓的“暂停”很可能演变为“秘密研发”，难以有效约束各大机构的行为。LeCun 引用 OpenAI 推迟发布 GPT- 4 的例子，强调即使签署公开信，也无法阻止领先企业继续推进技术。
此外，LeCun 还批评了信中提出的部分措辞及政策建议，认为它们缺乏实际操作性。在他看来，与其空谈暂停，不如专注于完善相关法规和技术标准，从而实现可控发展。
Bengio 与 Marcus 的积极立场
相比之下，图灵奖得主 Yoshua Bengio 是此次倡议的主要支持者之一。他认为，在当前阶段，谨慎对待 AI 技术至关重要。虽然他对具体条款有所保留，但他认同暂停研发的初衷，即避免因技术失控而导致灾难性后果。
与此同时，纽约大学教授 Gary Marcus 也表达了类似观点。他在博客中阐述了自己的立场，认为当前 AI 系统距离通用人工智能仍有较大差距，但其影响力不容小觑。他呼吁社会各界共同努力，探索更安全的路径。
Altman 的模糊态度
作为 OpenAI 的 CEO，Sam Altman 尚未对公开信做出明确表态。不过，他在社交媒体上分享了关于通用人工智能的见解，强调对齐、协调和监管的重要性。Altman 指出，构建有益于全人类的 AGI 需要多方协作，同时也需要强有力的法律框架作为保障。
然而，也有评论质疑这些目标的具体实现方式。有用户提出，所谓的“对齐”究竟意味着什么？谁来定义？这些问题仍悬而未决。
Yudkowsky 的极端主张
另一方声音来自 Eliezer Yudkowsky，这位决策理论家的态度更为激进。他认为，仅仅暂停研发远远不够，必须彻底关闭所有相关项目。Yudkowsky 警告称，随着 AI 能力的增强，人类面临的威胁将呈指数级上升。他指出，现有方法无法确保 AI 具备符合人类期望的行为模式，因此必须采取更严厉措施。
Yudkowsky 进一步描述了超人 AI 可能带来的后果，比如无视人类利益、追求自身目标，甚至将人类视为障碍。他呼吁全球采取一致行动，否则将面临不可逆转的风险。
未来展望
这场争论不仅揭示了 AI 领域内部的分歧，也为公众敲响了警钟。无论支持还是反对，各方都认同一点：AI 的发展必须谨慎前行。正如一些专家所言，我们需要在推动技术创新的同时，充分考虑伦理和社会影响。
