从智能手机到智能体, 端侧AI的故事才刚刚开始

近日，高通发布了年度旗舰芯片，公司相关负责人在演讲中，频频提到一个关键词——端侧ai（人工智能）。

端侧ai是将ai模型部署在终端设备上，让终端设备具备本地的智能处理能力，无需依赖云端服务器就能完成一些ai任务。与之相对应的是云侧ai，云侧ai是指将人工智能的模型训练和推理任务放在云端服务器进行处理。

从名称上就可以感受到端侧与云侧两种ai处理模式的差异。在端侧处理，省去了信息在终端与云端的交互时间，处理速度更快，同时，个人数据也只保留在本地，不存在云端泄漏的风险，更有利于数据安全。不过，端侧处理的不足也是显而易见的，特别是在计算资源与存储能力方面，端侧要明显逊色，相比云端部署的大模型，端侧往往只能部署单一应用的小模型。

那么，为什么端侧ai成为芯片大厂关注的焦点？

按照高通公司总裁兼ceo安蒙的说法，ui（用户界面）现在已经是以人为核心，能适应用户的需求，并在端侧进行处理。同时，用户体验的核心已转向智能体ai，这一变革正在重塑社会对所有智能终端的认知：无论是智能手表、无线耳机还是智能眼镜，它们不再只是手机功能的延伸，而是开始直接与智能体交互。他判断，智能手机不会消失，但是将迎来以智能体ai为核心的时代，包括智能手机在内的不同品类的智能终端将共同定义全新的移动体验。

记者从业内了解到，一些端侧ai应用已经崭露头角。例如，当你想要利用ai为你制作一份旅游计划表时，传统的ai会为你提供一份大众化攻略，但通过端侧ai，它可以自动识别你的日历表中哪些日期、哪些时段已经安排了其他行程，在制作攻略时会主动避开这些时段，从而提供更合理的出行建议。

无独有偶，联发科刚刚在发布旗舰芯片时对端侧ai功能着墨不少。该公司声称，其最新发布的旗舰芯片率先支持bitnet1.58bit推理框架，端侧ai能力获得了史诗级的提升，大幅减少ai计算、图像识别及自然语言处理能力运算对于云的需求，让以往需要依赖云端才能做到的4k超高分辨率文生图、128k长文本处理、ai写真等功能得以在端侧实现。

记者注意到，为了支撑端侧ai，高通还提到了计算架构的变化。安蒙称，需要构建一个全新的计算架构体系，包括操作系统、软件、芯片都需要重新设计以支持这些新体验。他认为，在由智能体主导的未来，智能体拥有丰富的情境理解能力，能记住用户的习惯，还能理解用户看到的内容，而高通正面向这样的需求打造全新的处理器。

值得一提的是，除了消费级的终端，未来工业级的终端也将具备ai能力。在业内人士看来，各行各业中采用的大量传感器会产生海量数据(16.440,-0.69,-4.03%)，这些数据往往尚未被充分利用，摄像头就是典型的例子，它们遍布各个角落，是否可以让每一个摄像头都具备ai能力，使其能够基于输入的数据流进行分析并做出决策？

因此，端侧ai的故事才刚刚开始，不仅仅是如今的智能手机、智能手表以及智能汽车，甚至未来每一台工业级边缘终端、各行各业的传感器——无论是制造工厂、配送中心，还是零售场景，这些领域中的传感器都将具备ai能力。

当然，强调端侧ai的能力并不意味着云侧ai不重要。未来，最好的局面是，无论在终端还是云端进行ai处理，二者都将无缝协同，实现边缘侧“云+端”的协同，这将使推理计算等任务得到更高效的分配。