手机厂商百亿投入大模型,端侧创新激战正酣

25次阅读

共计 2333 个字符,预计需要花费 6 分钟才能阅读完成。

什么样的行业能给出人均年薪百万的优厚待遇?答案是 AI 大模型。这是 vivo 副总裁周围在接受媒体采访时透露的信息,他表示 vivo 在大模型领域每年投入 20 亿到 30 亿元,总投入已超 200 亿,其中人才成本与数据算力成本各占一半,人才成本平均每人税后达 100 万元。

过去一年,AI 大模型在互联网科技行业掀起热潮。当大模型完成从 0 到 1 的基础建设后,基于不同场景的应用成为竞争焦点,拥有庞大用户基数的智能手机厂商成为端侧大模型的首批争夺者。

自 2023 年 8 月起,国内头部手机厂商华为、小米、vivo、OPPO、荣耀相继公布大模型研发及落地计划。8 月,华为鸿蒙 OS 4 率先接入盘古大模型;小米随后跟上,训练出不同参数规模的语言大模型并应用于部分场景。11 月,手机厂商大模型发布节奏加快。vivo 一口气发布五个不同参数量级的大模型矩阵;OPPO 推出自主训练的安第斯大模型并接入新操作系统。

手机厂商对大模型的投入绝非“走过场”,而是真金白银的大规模投入。今年 4 月小米组建大模型团队时,雷军就表明全力支持、投入无上限的态度,目前小米内部从事 AI 相关研发的人员超 3000 人。一向低调的 vivo 创始人沈炜也表示,AI 将成为科技创新底层技术,要高规格投入打造领先技术和产品。

在智能手机出货量下滑、用户换机周期延长、同质化竞争严重的当下,端侧大模型正成为手机行业创新的新增长点。然而,将参数十亿、百亿的大模型内置到手机中面临诸多考验。

挑战

手机企业要把大模型装进巴掌大小的手机存在悖论。模型参数太大,手机端侧装不下或运行困难;模型太小,又难以实现智能涌现。

端侧大模型落地执行时,一个无法回避的现实是,模型参数与内存占用密切相关。10 亿参数的数据在手机上约占 1G 内存,70 亿参数的数据占 4G 内存,130 亿参数的数据则占 7G 内存。而市面上多数高端手机运行内存为 12G 或 16G,若大模型数据量达 130 亿参数,将严重影响手机运行流畅度。

与云上大模型相比,端侧大模型优势明显。它能充分保护用户隐私,用户与大模型交互数据无需上传云端。同时,响应速度更快,极端情况下即便无网络也能使用,而云上大模型无网络则无法使用。此外,云上大模型调用成本高昂,有从业者称一次云端计算最低成本 1.2 至 1.5 分人民币,若大量用户频繁使用,手机厂商一年将多出巨额支出。

因此,在现有模型训练水平下,手机厂商面临人才和技术积累的挑战,只有聚集核心技术人才,才能突破困境,手机大模型之战在一定程度上也是人才和资金投入之战。

周围介绍,自 2017 年组建 AI 全球研究院,vivo 已组建超 1000 人的 AI 专家团队,每年在人工智能上投入保守估计 20 亿至 30 亿元,目前已超 200 亿元,数据、算力成本与人员成本各占一半。小米在人工智能布局较早,2016 年 AlphaGo 出现后雷军就大力投入,目前有 3000 多人从事 AI 相关研发,在多个领域有技术积累,曾有人机对话团队做过 28 亿参数的对话模型。

除手机厂商外,智能手机上游芯片制造商也加入这场竞争。2023 年 10 月 25 日,高通发布新一代移动处理平台骁龙 8 Gen3,相比上一代,其 GPU、NPU 性能大幅提升,能在终端侧运行 100 亿参数的模型,NPU 性能大涨 98% 以上,还能运行特定大语言模型,意味着各类虚拟助手等未来能在手机等终端运行。

落地

《中国企业家》观察发现,智能手机厂商布局大模型多采用渐进式开发路线,先研发训练小参数规模模型,再研发更大参数规模模型。

关于不同级别模型的能力表现,周围表示,据内部测试,70 亿参数的大模型可做好简单文档摘要和拆解功能,但要实现“智能涌现”,其任务拆解能力还有提升空间,130 亿参数可能是更好选择。

目前,智能手机厂商布局大模型分两条路径:一是采用轻量化和本地化部署的手机端侧大模型,典型厂商如小米和荣耀;二是采用云、端协同的架构设计,推出大模型矩阵,在云端部署百亿、千亿级别的大模型训练模型,在手机端侧部署十亿级别的大模型,典型厂商如华为、vivo 和 OPPO。

2023 年 4 月,小米内部成立自研大模型团队,雷军亲自推动并高度参与。小米自研的端侧大模型更强调与产品结合和场景驱动,不搞军备竞赛,出发点是与公司场景结合。

与小米不同,华为、vivo、OPPO 自研大模型采用“云、端协同”路径,其大模型均覆盖多个参数量级。周围表示,采用矩阵式是因在现有算法下,矩阵式是较好解决方案,同时也是受用户需求和算力成本影响的结果,既能满足用户隐私及安全需求,又能平衡云端算力成本过高问题。

尽管手机端侧大模型困难重重,但参与其中已成为手机厂商的必然选择。2017 年智能手机市场首次下跌,宣告行业进入存量时代,2023 年第三季度全球智能手机出货量同比下滑 8%。过去数年,手机厂商在多领域创新内卷,当下端侧大模型成为他们渴望抓住的创新入口,谁都不想错过风口而重蹈诺基亚覆辙。

OPPO 首席产品官刘作虎认为,AIGC 是手机行业令人兴奋的技术创新甚至革命,会给移动生活体验带来变革,未来手机将成为超级助理。

手机厂商的大模型正逐步落地到人工智能应用中。华为 P60 和 Mate60 系列手机的小艺智慧助手接入盘古大模型,OPPO 的小布、小米的小爱同学等也接入各自大模型。vivo 最新发布的 X100 机型为用户提供端侧大模型下载选项功能,用户可自主选择运行方式。

手机端的大模型应用改善了用户体验。例如,以往找图库照片需精确搜索关键词,大模型时代,通过泛化模糊指令就能找到相应照片。目前大模型在端侧可执行部分简单操作,但涉及订票等操作仍需云端大模型支持,即便如此,对手机厂商来说也是巨大机遇。

周围表示,端侧大模型的重要性与通信、芯片相当,未来将成为获取高端用户的关键途径。在国产手机冲击高端的当下,端侧大模型的竞争已全面展开。

正文完
 0