算力推动AI发展将成为瓶颈，AI应用正在爆发前夜！

随着AI和大模型的开发商越来越多，算力资源正变得越来越稀有，由算力推动的AI发展已经来到瓶颈，相关AI应用落地将成为推动AI的新力量。边缘侧或者终端侧部署AI成为近期较为关注的发展路径，轻量模型应用和轻量AI越来越多，“AI+硬件”下的边缘AI应用正在爆发前夜。

在手机端，华为、小米、VIVO等手机厂商跑步进入端侧大模型赛道，手机在处理图像、语音、NLP（自然语言处理）等任务的能力增强，大幅提升了手机性能；

在电脑端，英特尔宣布将在2023年12月14日正式发布面向下一代的AI PC英特尔酷睿Ultra处理器Meteor Lake，采用“CPU+GPU+NPU”的集成方式，不仅满足端侧大模型部署，还能保证AI在断网意外情况下的使用；

在物联网领域，近期一款名叫“AI PIN”的AI硬件亮相市场，还没有巴掌大，但内置了由高通骁龙芯片驱动的专有语言大模型，可过麦克风、摄像头、传感器进行互动。

未来，AI将从云端向边缘端、终端逐步渗透，AI+手机、AI+PC、AI+物联网AIoT等等各类“AI+硬件”将无处不在，并推动相关AI及大模型在各类具体场景的应用落地。

其中，不少A股上市公司早有布局，个别公司11月以来实现多日高涨，文末附上“边缘AI”以及“端侧大模型”概念股名单。

AI“从云端下凡”，边云协同助力AI应用落地

根据在网络中的位置，AI芯片可以分为云端AI芯片 、边缘和终端AI芯片；根据其在实践中的目标，可分为训练芯片和推理芯片，云端主要部署高算力AI训练芯片和推理芯片用于智能数据分析、模型训练任务和部分对传输带宽要求比高的推理任务。

边缘AI和终端AI主要为推理芯片，承担推理任务，需要独立完成数据收集、环境感知、人机交互及部分推理决策控制任务，即嵌入设备实时处理和分析数据 ，提供更快速和高效的决策和响应，例如在智能手机、摄像头、物联网设备等本地进行处理和决策。

相比云端AI先将数据传输到云端服务器进行计算和处理，再将结果传输回终端设备，边缘和终端AI只需要在离数据采集源和终端设备更近的位置进行人工智能计算和推理任务。

 

仅在云端的运行的AI大模型成本十分昂贵，像ChatGPT这样体量的超大模型，就需要1000张主流卡容量的独立计算集群，以及对应的模型并行算法框架来支持训练。而边缘AI是终端设备上进行的轻型模型运用，具有更强的本地处理优势，如具有隐私和安全性、低延时、可靠性、低成本 ，可负载在手机、笔记本电脑、XR 头显、汽车上。

由于不需要联网，不需要依赖远程服务器，边缘AI可实现更快的响应速度和低延迟的数据处理；在本地设备上数据处理和模型训练，可提供更高的数据隐私和安全性；在没有网络连接的情况下也可运行应用程序，同时还减少了对网络带宽的需求和数据传输的成本。

为满足边缘AI对计算能力和能效要求，需要不断开发边缘AI芯片以应对指数级增长的算力需求，龙头厂商和芯片厂商已经开始布局轻量级模型和大模型在边缘AI的运用。

2023年10月，高通和联发科相继发布集成AI引擎的旗舰SoC骁龙8 Gen3和天玑9300，可以支持十亿甚至百亿参数的大模型，这意味着端侧大模型可以借助边缘AI技术来实现，提高模型的部署效率和运行性能。

当然，边缘AI由于没有云端AI强大的算力资源，所以未来AI运算将呈现边云协同的多层次算力网络趋势，AI训练迭代优化等复杂性任务主要在云端，实时、局部数据处理和推理任务主要在边缘侧。通过边缘AI芯片的算力，打通推理加速的“最后一公里”。

 

手机、PC、物理网AIoT多侧落地，边缘AI大有可为

AI 大模型的迭代推动了边缘域 AI 的应用发展，同时带动了下游应用端智能硬件的革新，在手机、PC、物联网三大类终端上“百花齐放”。

 

首先是手机方面，今年2月高通首次成功在安卓手机上使用Stable Diffusion大模型生成AI图像，用时不超过15秒，可媲美云端时延，且用户文本输入不受限制。

在2023华为春季旗舰新品发布会上，华为基于多模态大模型技术，在手机端侧对模型进行小型化处理，实现了自然语言手机图库搜索体验。智慧搜图对亿级的图文数据进行预训练，增加了对泛化通用语义的理解，支持包含颜色、形状、物体、行为、时间和地点等多信息组合的自然语言搜索，同时还实现了端侧轻量化应用。

另一个向边缘侧、端侧部署发展AI应用落地尝试的是AI+PC，也是十分有可能诞生“杀手级”应用的AI使用场景。

联想集团首席工程师在接受《中国电子报》采访表示，对于消费者而言，PC始终是生产力工具，具体而言，智能写作助手、自动翻译工具、音视频合成以及虚拟现实内容等功能，将会让人工智能惠及每一个使用者。

例如，微软推出的Microsoft 365 Copilot是一种基于大型语言模型和微软图形的数据和人工智能辅助工具，它可以将用户的自然语言输入转化为高效的生产力工具，并集成在包括Word、Excel、PowerPoint等应用中。

为提升AI的使用体验，多家芯片巨头在布局AI+PC。英特尔宣布将在2023年12月14日正式发布面向下一代的 AI PC 英特尔酷睿 Ultra 处理器Meteor Lake。该处理器将使用“CPU+GPU+NPU”的集成方式，不仅满足端侧大模型部署，还能保证AI在断网这类意外情况下的使用。

英特尔的“老对手”AMD在近期进博会展示了搭载自研AI加速引擎的笔记本电脑。在Ryzen AI引擎与CPU、GPU的协同计算下，笔记本电脑可在极低的功耗下完成本地文生文智能对话、视频会议画面优化、老照片画质修复等智能计算，同时还拥有优秀的隐私保护功能。

物联网AIoT领域也出现了相关大模型应用落地的硬件产品。2023年11月6日，美国初创公司Humane发布硬件产品AI Pin，主打AI和用户的交互，通过内置的“AI Mic”连接到云端AI模型并进行交互和反馈。AI Pin也是大模型从云端向移动端部署的一次重要尝试，为后续AIoT新产品的定义提供了一个新的发展方向。

随着生成式功能日益强大，耳机、手表、扫地机器人等AIoT产品也将作为边缘AI的主要场景，分担云端算力的部分任务，保护用户隐私数据。此外，边缘AI能够大显身手的领域还有智能家居、智能汽车、智能安防等等，“AI+智能终端”的趋势将重构电子产业的成长。

那么，有哪些A股上市公司已经开始布局相应“边缘计算”、“端侧AI”？笔者根据上市公司公告和投资者互动问答平台整理供读者参考：

 

其中一家上市公司已在大语言、AIGC等主流模型积极跟进，专为生成式AI而打造的PC平台，能够在终端侧运行高达百亿参数的模型，可以在PC侧通过Stable Diffusion生成图像，11月初至今涨幅已达12.12%。

 

在终端AI领域，恒玄科技自主研发了 BECO 嵌入式AI协处理器及对应指令集，和主 CPU核心配合工作，更好的完成基于神经网络AI算法的各种音频处理，11月初以来涨幅已达14.49%。

数据说明

本文所涉及的内容不保证数据完整性与准确性，分析结论仅供参考，所涉及品种均不构成实际投资操作建议。股市有风险，投资需谨慎。

风险揭示

本文所涉的文章观点，仅代表笔者个人观点，不代表本平台的任何立场，不构成任何投资建议。

版权声明：未经许可，任何个人或机构不得进行任何形式的修改或将其用于商业用途。转载、引用、翻译、二次创作（包括但不限于以影音等其他形式展现作品内容）或以任何商业目的进行使用的，必须取得我司许可并注明作品来源为私募排排网，同时载明内容域名出处。