在过去几个月,手机行业面临新的机遇,手机端的大模型技术逐渐兴起。华为率先宣布将大模型接入手机助手,小米、OV等厂家迅速跟进,甚至苹果和三星也开始关注这一技术。
除了手机厂商,上游的芯片制造商和下游的应用开发者也未曾缺席。高通和联发科相继推出支持百亿参数大模型的新一代手机芯片,而HuMane则推出了AI Pin,旨在构建未来的操作系统。
大模型技术的普及已经有一年之久,用户通过手机端应用体验大模型的能力已不再新鲜。然而,厂商们为何如此努力推动这一技术的落地呢?
新的入口
手机厂商进入大模型领域的首要目标是提升手机助手的功能。在大模型出现之前,手机助手的智能化程度受到限制,只能完成预设指令的简单任务。而大模型的自然语言处理能力大幅提升了助手的交互性能,使其能够更深度地操控手机。
OPPO高级副总裁刘作虎曾表示,大模型的引入将使手机成为“超级助理”,带来更丰富的用户体验。通过自然语言与手机助手交互,用户的日常需求将得到更好的满足。
例如,vivo的蓝心小V可以通过语义识别管理用户的照片,而OPPO的小布助手则能智能接听电话并记录关键信息。华为的小艺也能通过自然语言直接创建场景,提升用户的操作体验。
这种能力的实现,需要对手机系统的各项功能进行重新梳理,以提供标准化的接口供大模型操作,进而提升用户体验。
一些行业专家认为,手机助手中部署大语言模型的背后,手机厂商的野心不仅限于此。通过人工智能助手理解用户需求并控制其他应用,可能会彻底改变用户体验和手机厂商与第三方应用的关系。
在华为的鸿蒙系统中,用户可以直接与小艺使用自然语言交流,实现多应用的整合与交互。这意味着,未来可能不需要为每个应用开发单独的用户界面,而是通过手机助手来进行统一的交互。
端侧大模型的优势
端侧大模型为手机厂商提供了实现这一愿景的最佳工具。首先,手机厂商通常不提供云服务,无法获取便宜的云计算资源。端侧大模型能够降低这些成本,使商业模式更加可行。
其次,手机厂商在端侧AI方面具有优势,自研的大模型能够与手机硬件深度适配。此外,运行于终端的模型能够降低延迟,提升应用的响应速度。
然而,将大模型完全转移到端侧仍面临技术和产业的挑战。当前手机助手中的大模型能力多依赖于端云结合,云端的调用成本可能制约盈利能力。
在技术层面,手机的硬件资源限制了大模型的运用。尽管手机可以运行许多AI算法,但大模型的计算复杂度和内存需求显著高于传统算法。这促使行业探索模型量化等技术,以适应手机的硬件资源。
行业应对策略
为了解决这一问题,行业内的许多公司正在研究模型量化技术。通过将模型权重由浮点数转变为占用内存更低的整数存储,可以显著降低内存占用。
例如,RWKV团队提出了一种基于RNN和CNN架构的新型大模型,能够在不增加计算负担的情况下,优化推理过程。该模型在手机端运行的内存要求较低,适合中低端设备。
RWKV的模型正在测试中,显示出在对话生成和多功能应用上与传统模型的不同优势。未来,随着技术的进步,端侧大模型有望在更多智能手机上得到应用。
总的来说,手机厂商在大模型领域的探索,代表了手机行业的新方向,未来的竞争将不仅仅体现在硬件性能上,更在于如何利用AI提升用户体验。
[[[IMG_1]]] [[[IMG_2]]] [[[IMG_3]]]
