大模型最佳载体, AI PC为PC行业发展提供新动力
数据安全和高成本阻碍大模型普及,AI大模型落地端侧势不可挡
AI大模型在云端运行存在数据泄露、传输延迟、云端运营成本越来越高等诸多问题,阻碍大模型的商业化应用。在数据安全方面,以ChatGPT为例,根据 Cyberhaven的统计,每个使用ChatGPT的公司每周向ChatGPT泄露数百次机密材料,而ChatGPT正在将这些材料纳入其公开的知识库并进行共享。在云端大 模型运行成本方面,生成式AI大模型的参数量以数十、数百亿计,只有云端服务器可以满足模型训练、优化、推理的需求,而随着用户量及使用请求的逐渐增多, 云端尝试的运营成本越来越高。
混合AI指终端和云端协同工作,在适当的场景和时间下分配AI计算的工作负载,以提供更好的体验,并高效利用资源,有助于缓解大模型运行成本以及提高数据 安全性。
AI PC:大模型的最佳载体
AI PC主要是指可以运行人工智能,配备整合NPU处理器的个人电脑。具有存储容量大、计算能力强、交互模态以及承载场景丰富的优势。此外,AI大模型目前覆 盖的应用场景与PC高度重合,因此AI PC被称为“大模型的最佳载体”。
AI PC的特征为:拥有本地部署的大模型与个性化本地知识库组合构成的个人大模型,第一交互入口为个人智能体,可实现自然语言交互,AI PC将通过内嵌AI计 算单元的方式提供混合AI算力,还可以依靠开放生态来满足不同场景的需求。在满足生产力提升的同时,通过本地数据存储和隐私及数据保护协议来保护个人隐私 和数据安全。
AI PC仍处于AI Ready阶段,商用领域将成为主要需求来源
IDC将AI PC的发展划分为AI Ready、AI On两阶段:AI Ready是指PC芯片计算架构的升级,集成了NPU计算单元的CPU陆续推向市场,以更高的能效比实现计算 速度的提升,并在运行过程中具备更高的稳定性和可靠性,但尚未搭载AI大模型;AI On阶段具有完整的AI PC核心特征,并且在核心场景提供划时代的AI创新体 验,成为每一个人的个人AI助理。目前AI PC市场整体处于AI Ready阶段并开始向AI On过渡,大多数AI PC搭载轻量级的AI应用以及微软Copilot按钮,联想内置 大模型的AI PC预计2024年9月发布。
根据Canalys预测,兼容AI的个人电脑有望在2025年渗透率达到37%,2027年兼容AI个人电脑约占所有个人电脑出货量的60%,未来AI PC的主要需求来源为商 用领域,到2027年将有59%的需求来自商用领域。
AI PC为PC行业发展提供新动力
在AI PC的推动下,PC产业生态将从应用为本转向以人为本,从应用驱动转变为意图驱动。AI PC产业生态中,个人智能体将成为第一入口,在大模型与应用生 态的支持下,准确理解用户指令,给出恰当的反馈,跨应用进行调度,进而完成相对复杂的任务。模型、应用、算力厂商都需要围绕AI PC(终端)形态下新的 以人为本的需求做出改变,在研发工作中对AI的高效运行予以充分的考量,以适应AI PC新时代。用户不再是行业变革的被动接受方,而将成为主动参与者和创 造者。PC终端厂商和用户直接连接,因此,终端厂商将成为PC产业生态的核心中枢。
AI PC将为PC行业注入新的增长活力。IDC预测,中国PC市场将因AI PC的到来,结束负增长,在未来5年中保持稳定的增长态势。台式机、笔记本电脑市场总规 模将从2023年的3900万台增至2027年的5000万台以上,增幅接近28%,而其中AI笔记本和台式机的占比将从2023年的8.1%提升到2027年的84.6%。
AI PC促进底层硬件技术升级
处理器:“CPU+GPU+NPU”异构方案
为大模型的本地运行需要强大的处理能力,离不开AI专用算力。因此,目前的AI PC通用计算架构开始采用“CPU+GPU+NPU”的异构方案,嵌入AI加速器——端 侧神经网络处理单元NPU。 CPU用来运行较小的工作负载并实现低延迟,NPU则专门针对神经网络工作负责进行优化,GPU用于需要并行吞吐量的大型工作负载, 三种芯片结合,就能实现更快速、更高效率的边缘AI模型推理。
英特尔于2023年12月首次推出内置NPU的PC处理器。相比于GPU,NPU能够更低功耗、更高效率地执行大模型任务。根据英特尔以Stable Diffusion文本解码器、 Unet、VAE三个步骤做的测试,如果全部放置在CPU上,所花费的时间为43秒。如果全部跑在GPU上,耗时仅14.5秒,功耗是37W,而如果说将部分步骤放置在 NPU其他的在CPU,那么耗时为20.7秒,功耗更是只有20W。
处理器:各大厂商NPU算力仍需提升,高通优势显著
微软宣布其AI PC的最低算力为40 TOPS,目前市场上的Intel Meteor Lake(34 TOPS)和AMD Ryzen 8040(39 TOPS)都未能满足这一标准。除了装有专 用显卡的笔记本之外,目前只有搭载高通Snapdragon X Elite(45 TOPS)的笔记本才能达到这一性能要求。据预期,2024年下半年推出的AMD Ryzen 8050 “Strix Point”和Intel Core Ultra 200“Lunar Lake”这两款新型主流超极本处理器,也将符合微软的规定。
高通X Elite在高通AI引擎下算力达到75TOPS,而在其他场景当中算力为45TOPS,可以在端侧离线状态运行130亿参数的大模型,而运行70亿参数的大预言模 型时,每秒钟可以生成30个token。
内存:AI PC拉升DRAM需求
2022-2023年受消费电子市场萎靡以及下游厂商库存高居不下的影响,DRAM价格长期下滑。但随着2023年上游存储厂商减产、缩减资本开支,同时2023年底 消费电子市场开始复苏,DRAM价格开始回升。
在PC DRAM需求方面:1、AI PC促进PC出货量上升,进而提高DRAM出货量;2、受运行AI大模型需求影响,对内存芯片的存储容量要求有所提升,微软目前 针对AI PC的内存要求是DRAM的基本需求为16GB起步,集邦咨询预计2024年DRAM平均容量预计增长12.4%。因此内存容量大的DDR5、LPDDR5/x等高世代 DRAM产品渗透率提升,提高PC单机搭载的DRAM产品价值量;3、同时对数据传输速率的高要求也促进DRAM配套产品SPD、CKD等接口芯片的技术迭代。
AIPC的散热模组可能会有全新方案
散热能力是高算力芯片的一个主要瓶颈,随着搭载在AI PC上的模型 规格不断提升,NPU性能释放可能会更加激进,相较于传统PC,AI PC可能会给出全新的散热解决方案。液冷技术占比可能会有所上升, IDC预测到2024年,超过75%的PC将采用液冷散热技术。此外,散 热芯片可能凭借其静音、轻薄、功耗低等优势,在将来可能成为PC 轻薄本的主要散热手段。
重点公司分析
澜起科技:全球领先的内存接口芯片
公司目前包括互连类芯片和津逮服务器平台两大产品线。互连类芯片产品主要包括内存接口芯片、内存模组配套芯片、PCIe(Peripheral Component Interconnect Express) Retimer芯片、MXC芯片,津逮服务器平台产品包括津逮CPU和混合安全内存模组(HSDIMM)。同时,公司正在研发基于“近内存计算 架构”的AI芯片。
公司在内存接口芯片方面处于领先地位,能够提供从DDR2(Double Data Rate)到DDR5内存全缓冲/半缓冲完整解决方案。公司在DDR4世代就逐步确立了行 业领先优势,是全球可提供DDR4内存接口芯片的三家主要厂商之一。在DDR5世代,公司继续领跑,可为DDR5系列内存模组提供完整的内存接口及模组配套芯 片解决方案,是目前全球可提供全套解决方案的两家公司之一。
华勤技术:ODM龙头厂商
公司具备智能硬件研发制造与生态平台构建能力,在全球智能终端ODM领域拥有领先市场份额和独特产业链地位的全球智能硬件平台型企业。根据Counterpoint 的数据显示,2022年度全球智能手机ODM/IDH厂商出货量份额中,公司以28%的份额占比位列行业头部;2021年全球平板电脑ODM厂商出货量份额中,公司位 列全球ODM行业第一。
随着搭载移动芯片的轻薄型联网笔记本电脑产品的发展,笔记本电脑产品与智能手机的上游供应链重合度逐步提升,为智能手机ODM厂商进入这一领域提供了优 势;同时,智能手机ODM厂商在设计、生产体积较小且高集成度的手机产品方面积累了丰厚经验。因此,凭借先进的智能制造与管控能力,领先的技术迭代与迁 移能力,与联想、宏碁、华硕、小米等知名品牌建立合作,笔记本电脑ODM业务快速放量,根据Digitimes的数据,公司在2023年第二季度全球笔记本电脑ODM 厂商出货量中进入前四位。
中石科技:人工合成高导热石墨膜全球龙头公司
公司主要产品包括高导热石墨产品(人工合成石墨、天然石墨、石墨烯高导热膜等)、导热界面材料、热管、均热板、热模组、EMI 屏蔽材料、粘接材料及密封材料 等,广泛应用于消费电子、数字基建、智能交通、清洁能源等高成长行业。
人工合成高导热石墨膜全球龙头公司;均热板可以做到0.25mm,拥有Apple/FACEBOOK\SONY\PICO等VR客户。
报告节选:
(本文仅供参考,不代表我们的任何投资建议。如需使用相关信息,请参阅报告原文。)
相关报告
电子行业专题报告:AI大模型落地终端,AIPC驱动PC行业新增长.pdf
经纬恒润研究报告:汽车电子五域技术为基,攀登中央计算之巅.pdf
盛弘股份研究报告:电力电子尖兵,谋远终迎盛放.pdf
电子产品相关知识培训.docx
TCL电子研究报告:智屏+互联网+创新三驾马车,股权激励开启新篇章.pdf
电子行业企业管理-保险公估人年(电子习题).docx
AI人脸识别诈骗敲响金融安全警钟.pdf
AI搜索专题报告:怎么看Kimi的空间?.pdf
边缘AI行业研究报告:边缘AI硬件,引领硬件创新时代.pdf
人形机器人专题报告:AI驱动,未来已来.pdf
建筑行业2024年春季投资策略:新国九条催化央企市值国改,低空经济AI与铜矿有色弹性大.pdf
怎么看AIPC的市场空间.pdf
泓禧科技研究报告:AIPC浪潮下笔电产业链迎新机遇,募投扩产+海外布局齐发力.pdf
华勤技术研究报告:智能硬件ODM领军者,AIPC&服务器发力成长可期.pdf
电子行业专题报告:PC迎换机+AI潮,AI赋能带动硬件环节量价齐升.pdf
AIPC行业专题报告:AIPC元年全面启动,PC王者引领产业变革.pdf