共计 2372 个字符,预计需要花费 6 分钟才能阅读完成。
在当今 AI 领域,造神故事屡见不鲜。技术小白与大牛的差距,有时就体现在若干 Prompts 上。近日,17 岁高中生调试 80 多版打造的神级 Prompt 引发争议,有人惊叹天才少年出世,也有人指出其复杂且可维护性低。过去一年,类似争论不断,LangGPT 创始人云中江树见怪不怪,将各方观点引入社群,呼吁理性看待。
LangGPT 是国内最大的 Prompt 社区。2023 年 5 月在 GitHub 上线后,迅速获开发者喜爱,与多家模型厂商合作推出官方 Prompt 模板。至今,其在 GitHub 上的 Star 数持续增长,飞书知识库访问量达 20 万,全网传播超 100 万,微信私域社群成员超 4000 人。
今年 4 月,云中江树辞去自动驾驶工程师工作,全职投入 LangGPT 创业。2021 年,读研的他在论文中看到“Prompt tuning”概念,眼前一亮。当时很多 AI 应用通过微调,虽有好处但缺点明显,而 Prompt tuning 只需调整提示词,能充分利用预训练模型泛化性。之后他自学相关知识,接触到变量、模板、结构化等概念。
2022 年底 ChatGPT 推出后,云中江树探索上百个 AI 项目,整理成 ChatGPT 中文指南开源,登上 GitHub 全球热榜。他发现这些项目核心是“如何更好调用大模型能力”,而 Prompt 工程是起点。当时国内外社交媒体上 Prompt 工程热度渐高,他很意外。于是开始梳理写 Prompt 的经验,从专业开发者视角转变为普通用户视角,寻找降低技术小白使用 AI 门槛的 Prompt 方法论。
经过几个月迭代,2023 年 5 月 LangGPT 正式上线,获得成功。目前,LangGPT 社群成员主要有两类,一类是 AI 使用者,一类是前沿应用开发者。应用开发者中,有人关注提升工作效率,有人关注应用场景。甚至有公司组织人员加入社群学习。最火热时,出现“全民学习 Prompt”浪潮。不过,云中江树也表示这可能是“幸存者偏差”,毕竟 Prompt 工程对 14 亿中国人来说还很小众。
AI 应用开发离不开 Prompt 工程
Prompt 工程从出现就伴随着质疑声。包括 Sam Altman 在内的大佬认为,随着大模型性能提升,不再需要 Prompt 工程。但云中江树最初也认为 Prompt 会像一阵风过去,实际却并非如此。如今模型虽越来越擅长理解人类意图,但他认为模型进展仍低于预期,很多 AI 应用开发离不开 Prompt 工程。
目前大模型厂商对 Prompt 的实际重视程度不高,除 Anthropic 工程师分享经验外,鲜少有厂商或开发者公开分享。这种不重视甚至体现在产品设计中。而 Prompt 工程在 AI 应用开发中的 ROI 很高,能提升产品用户体验。好在国内很多企业开始意识到其重要性,去年做微调的企业今年转而在 Prompt 工程上投入更多。
值得注意的是,做好 Prompt 需要投入时间和精力。模型技术快速迭代,对 Prompt 要求不断变化,要实现想要的功能,需大量调整 Prompt 细节,个人很难穷尽所有可能。LangGPT 这类开源社区的价值就在于汇集集体智慧,释放 Prompt 对模型应用落地的价值。
结构化 Prompt 成为主流选择
随着模型迭代,Prompt 工程的方法论也在更新。目前的共识是,Prompt 的核心在于“清晰的表达”。云中江树认为,Prompt 是自然语言和编程语言结合的交叉点,“写什么”比“怎么写”更重要。专业技术人员有时会陷入 Prompt 形式,忽略表达内核。Anthropic 负责 Prompt 的工程师也表达过相似观点。
在过去一年的 Prompt 实践中,结构化 Prompt 逐渐成为主流。Anthropic 工程师表示,Prompt 是特别的模式,要像对待代码一样对待它。云中江树也感受到结构化写作 Prompt 正在成为共识,国内尤其如此。从现存 Prompt 社区的活跃程度能看出,LangGPT 作为技术派代表,已成长为国内规模最大的社区。云中江树分析,一方面早期很多社区只是简单整合模板,而 LangGPT 一直在系统输出方法论;另一方面,结构化 Prompt 实操性更高,能让应用开发工作流更高效运转。
从技术系统本身和 AI 应用开发流程来看,结构化 Prompt 都是让工作流高效运转的最佳方式。但随着模型性能提升,Prompt 工程要解决的问题越来越难捉摸,工程师调试 Prompt 的难度增加,只能通过大量试错来解决。
什么是 Prompt 社区的归宿?
现阶段,云中江树面临的另一大课题是如何让 LangGPT 可持续运营。他坦言,LangGPT 能有今天的成绩是理想主义成果,但用爱发电走不远。今年 4 月,他辞去工作,全身心投入 LangGPT 运作并探索商业化。
LangGPT 的社区运营和商业化探索将分开进行。一方面,希望 LangGPT 继续以开源社区形式存在,为学习 AI 的人输出有价值内容;另一方面,由于 Prompt 本身不适合商业化,单纯做 Prompt 交易利润薄。
国外最大的 Prompt 社区 FlowGPT 今年也在寻求转型。2023 年 1 月上线后迅速出圈,今年 2 月完成新一轮融资,并从 Prompt 社区转型为 AI Native APP/Agent 平台。其面向 C 端创作者开源、免费的模式虽沉淀了大量优质创意,但也带来内容伦理风险。
不同于 FlowGPT 的 to C 策略,LangGPT 选择从 B 端切入。根据客户需求提供一整套服务,包括智能体定制、SaaS 工具、技术咨询、Prompt 方法论培训等,同时不收录灰色地带内容。在落地场景方面,LangGPT 社群衍生出的内容应用效果最好。目前,云中江树还在尝试多模态 Prompt 所能调动的模型能力边界。
关于未来,云中江树面临巨大不确定性,一方面来自模型能力升级,另一方面来自商业和人性。但他仍在推演 LangGPT 更优的商业路径,希望找到高价值场景,帮客户提效。他笃定地表示,希望投入这个时代,见证 AGI 实现,相信在细分领域做到前 20% 能产生很大价值。