谷歌使用 TPUv4 训练 5400 亿参数的 PaLM 模型
数据来源：Chowdhery A, Narang S, Devlin J, et al. Palm: Scaling language modeling with pathways[J]. arXiv preprint
查看原文相关图表
- AI 训练和推理硬件市场占比
数据来源：Bloomberg Intelligence、IDC、华泰研究2023-09-22 - Zen 架构与英特尔 Skylake 架构参数对比
数据来源：AMD 官网、英特尔官网、华泰研究2023-09-22 - 截至 2017 年底 ETH 在数字货币市场中的市值占比
数据来源：Coinmarketcap 官网、华泰研究2023-09-22 - 2017 年 AMD 与英特尔数据中心 CPU 产品参数对比
数据来源：AMD 官网、英特尔官网、华泰研究2023-09-22 - 截至 2021 年底 ETH 在数字货币市场中的市值占比
数据来源：Coinmarketcap 官网、华泰研究2023-09-22 - 2017 年 AMD 表示 Zen 架构 CPU将在 2020年前超越 7nm
数据来源：AMD 官网、华泰研究2023-09-22 - CY2016Q1-FY2024Q2 英伟达游戏显卡收入
数据来源：Bloomberg、华泰研究2023-09-22 - AMD 在 2016 年发表的企业端 CPU 技术路线，明确指出台积电 7nm 制程 CPU 将于 18/19 年推出
数据来源：Videocardz、华泰研究2023-09-22 - 英伟达 Omniverse Cloud
数据来源：英伟达 Blog、华泰研究2023-09-22 - 2022 年 AMD 表示 Zen 架构 CPU 将在 2024 年进入 3nm
数据来源：AMD 官网、华泰研究2023-09-22 - Evozyne 使用 BioNeMo ProtT5 模型 开发的 ProT-VAE 模型基本架构
数据来源：《ProT-VAE: Protein Transformer Variational AutoEncoder for Functional Protein Design》（Emre Sevgen et al.，2023）、2023-09-22 - 2016-2023AMD 及英特尔股价对比图及主要事件（美元）
数据来源：彭博、AMD、英特尔、华泰研究2023-09-22 - NVIDIA Picasso 帮助 Shutterstock 客户使用文本提示词快速创建与自定义其 3D 场景背景
数据来源：英伟达官网、华泰研究2023-09-22 - 22Q3 笔记本端 GPU：AMD 占比 13%，英特尔占比 74%
数据来源：Jon Peddie Research、华泰研究2023-09-22 - NVIDIA NeMo 支持从数据整理到推理的整个端到端大语言模型生成流程
数据来源：英伟达官网、华泰研究2023-09-22 - 22Q3 全部 PC GPU：AMD 占比 12%，英特尔占比 72%
数据来源：Jon Peddie Research、华泰研究2023-09-22 - NVIDIA AI Foundations 为三个领域的生成式 AI 提供云服务
数据来源：英伟达官网、华泰研究2023-09-22 - 主要人工智能芯片的参数对比
数据来源：英伟达官网、AMD 官网、谷歌官网、habana 官网、ANANDTECH、semianalysis、tom’s Hardware、TechPowerUp、THENEXTPLATFORM、华泰研究2023-09-22 - NVIDIA DGX Cloud 商业模型示意图
数据来源：NVIDIA 官网、GOOGLE 官网、Azure 官网、华泰研究2023-09-22 - 英伟达 H100 与部分同业产品在运行不同 AI 负载时表现
数据来源：福布斯官网、华泰研究2023-09-22 - DGX Cloud 与 Azure ND96asr 参数对比
数据来源：英伟达官网、微软官网、华泰研究2023-09-22 - iGPU（集成显卡）和 dGPU（独立显卡）
数据来源：英特尔官网、AMD 官网、华泰研究2023-09-22 - 大模型训练所需 A100 测算
数据来源：OpenAI 官网、《Efficient large-scale language model training on GPU clusters using megatron-LM》（Deepak Narayanan et al.，2021）、NVIDIA 官网、2023-09-22 - 22Q3 桌面 PC GPU：AMD 占比 10%，英特尔占比 69%
数据来源：Jon Peddie Research、华泰研究2023-09-22 - 英伟达 Grace Hopper 架构示意图
数据来源：英伟达官网、华泰研究2023-09-22 - 全球 PC 出货量及同比和环比变化（单位：百万台）
数据来源：IDC、华泰研究2023-09-22 - 英伟达 Grace Hopper 与 x86 + Hopper 的最终用户应用程序性能模拟（单位：倍数）
数据来源：英伟达官网、华泰研究2023-09-22 - 赛灵思 Zynq 自动驾驶产品应用场景包括雷达、激光雷达、摄像头等
数据来源：AMD 官网、华泰研究2023-09-22 - 英伟达 AI 应用框架
数据来源：英伟达官网、华泰研究2023-09-22 - AMD 客户端业务营收历史数据与预测值
数据来源：AMD 2020-2022 年报，华泰研究预测2023-09-22 - AI 应用相关落地方向及代表案例
数据来源：各公司官网、华泰研究2023-09-22 - 赛灵思 Zynq RF SoC
数据来源：AMD 官网、华泰研究2023-09-22 - 人脑处理信息与人工智能训练和推理的流程对比
数据来源：CSDN、谷歌官网、Vaswani A, Shazeer N, Parmar N, et al. Attention is all you need[J]. Advances in neural information processing systems, 2017, 30.、2023-09-22 - 赛灵思数据中心产品 Alveo 部分型号与使用场景
数据来源：AMD 官网、华泰研究2023-09-22 - 2022 年底以来生成式 AI 部分大事件汇总
数据来源：各公司官网、InfoQ 官网、雅虎官网、IT 之家、财联社、panewslab、华泰研究2023-09-22 - 赛灵思车规级 Zynq 产品示意图
数据来源：AMD 官网、华泰研究2023-09-22 - 英伟达数据中心业务盈利预测（单位：百万美元）
数据来源：Bloomberg、华泰研究2023-09-22 - 赛灵思 Versal Adaptive SoC
数据来源：AMD 官网、华泰研究2023-09-22 - 英伟达 H100 的制造流程和硬件结构示意图
数据来源：《半导体制造技术》（Quirk & Serda, 2015）、英伟达官网，台积电官网，华泰研究2023-09-22 - AMD 嵌入式业务营收历史数据与预测值
数据来源：AMD 2020-2022 年报，华泰研究预测2023-09-22 - CoreWeave 部分融资轮次及情况
数据来源：Bloomberg、Business Wire 官网、华泰研究2023-09-22 - AMD Radeon 7000 系列使用 Chiplet 技术
数据来源：Xbox 官网、华泰研究2023-09-22 - 英伟达 2023 年以来所投资的部分公司
数据来源：Pitchbook 官网、CNBC 官网、华泰研究2023-09-22 - AMD Radeon 7900 XTX
数据来源：AMD 官网、华泰研究2023-09-22 - 英伟达 Grace Hopper 架构示意图
数据来源：英伟达官网、华泰研究2023-09-22 - 英伟达 GeForce 4090
数据来源：英伟达官网、华泰研究2023-09-22 - 英伟达 DGX H100 VS DGX GH200
数据来源：英伟达官网、华泰研究2023-09-22 - AMD Radeon 与英伟达 GeForce 发布价格比较（美元）
数据来源：AMD 官网、英伟达官网、华泰研究2023-09-22 - NVIDIA DGX GH200 整合了 256 个 GPU
数据来源：英伟达官网、华泰研究2023-09-22 - 配合游戏 Starfield 的 Xbox 定制摇杆
数据来源：Xbox 官网、华泰研究2023-09-22 - NVIDIA 2023 GTC 核心亮点
数据来源：英伟达官网，华泰研究2023-09-22 - 2023-2025 年高期待值游戏：重点关注在 PS5 上线而不兼容 PC 的《蜘蛛侠 2》和《最终幻想 7》
数据来源：IGN、各工作室官网、华泰研究2023-09-22 - 英伟达游戏、数据中心、汽车业务同比增速
数据来源：Bloomberg、华泰研究2023-09-22 - 配合游戏 Starfield 的 Xbox 定制耳机
数据来源：Xbox 官网、华泰研究2023-09-22 - 英伟达分业务营收（单位：百万美元）
数据来源：Bloomberg、华泰研究2023-09-22 - IGN 游戏期待值排名：第一名为《蜘蛛侠 2》，第六名为《最终幻想 7》
数据来源：IGN、华泰研究2023-09-22 - 英伟达各业务收入占比
数据来源：Bloomberg、华泰研究2023-09-22 - 半代升级的 Play Station 5 Pro
数据来源：索尼官网、华泰研究2023-09-22 - 英伟达关键创新历程（数据取自 2016/3/11 至 2023/9/20）
数据来源：Wind、英伟达官网、华泰研究2023-09-22 - Play Station 5 游戏主机
数据来源：索尼官网、华泰研究2023-09-22 - 从千禧年代开始的 AI 技术及应用梳理
数据来源：algotive.ai、华泰研究2023-09-22 - Xbox Series S Carbon Black
数据来源：Xbox 官网、华泰研究2023-09-22 - 2018 年开始，Transformer 在谷歌学术的引用数量（次）
数据来源：谷歌学术、华泰研究2023-09-22 - Xbox Series S 和 Xbox Series X
数据来源：Xbox 官网、华泰研究2023-09-22 - 2018 年开始，Transformer 在谷歌学术的引用数量（次） 图表8： Transformer 相关的论文领域占比
数据来源：State of AI report、华泰研究2023-09-22 - AMD 游戏业务营收历史数据与预测值
数据来源：AMD 2020-2022 年报，华泰研究预测2023-09-22 - 报告中提及未上市公司一览
数据来源：Bloomberg、华泰研究2023-09-22 - EPYC 处理器系列新产品 Genoa-X 预计在 2023 年内上市
数据来源：AMD 官网、华泰研究2023-09-22 - 2016 年至今 AMD 历史股价、Forward PE 和 Forward PS（数据截至 2023 年 9 月 20 日）
数据来源：Bloomberg、华泰研究2023-09-22 - 2022 年 8 月 AMD Pensando DPU 产品路线图
数据来源：AMD 官网、华泰研究2023-09-22 - 重点推荐公司一览表（数据截至 2023 年 9 月 20 日）
数据来源：Bloomberg、华泰研究2023-09-22 - AMD 在 CES2023 披露四家云厂商为第四代 EPYC 客户
数据来源：CES 2023、华泰研究2023-09-22 - AI 芯片行业产业链的相关公司估值（数据截至 2023 年 9 月 20 日）
数据来源：Visible Alpha 官网、华泰研究2023-09-22 - AMD Pensando 产品示意图
数据来源：AMD 官网、华泰研究2023-09-22 - 特斯拉自动驾驶自动改进概念图
数据来源：特斯拉官网、华泰研究2023-09-22 - AMD EPYC CPU 产品矩阵
数据来源：Wccftech、华泰研究2023-09-22 - 华为以 MDC 智能驾驶计算平台为核心搭建的“平台+生态”全景图
数据来源：华为官网、华泰研究2023-09-22 - AMD 6 月 13 日发布 EPYC 处理器系列新产品 Bergamo 属 Zen 4c 代际（图右）
数据来源：AMD 2023 年 6 月 AI 与数据中心发布会、华泰研究2023-09-22 - 各代 Autopilot 硬件配置
数据来源：汽车之心、华泰研究2023-09-22 - 英伟达芯片在 AI 论文中的引用数量遥遥领先
数据来源：网络2023-09-22 - 华为 Ascend 910 与普通 AI 协处理器对比图
数据来源：digitimes 官网、华泰研究2023-09-22 - 英伟达 Grace Hopper 中的 Grace CPU 采用 ARM 架构
数据来源：AnandTech 官网、华泰研究2023-09-22 - 基于 Snapdragon Flex 芯片打造算力高至 2000TOPS 的可扩展自动驾驶体系
数据来源：高通官网、华泰研究2023-09-22 - AMD MI300 中的 Zen 4 CPU 采用 x86 架构
数据来源：Wccftech 官网、华泰研究2023-09-22 - 华为 MDC 计算平台整体架构图
数据来源：华为官网、华泰研究2023-09-22 - AMD EPYC 系列 CPU 产品路线图
数据来源：CES 2023、华泰研究2023-09-22 - 黑芝麻华山系列迭代进程
数据来源：21 世纪经济网、华泰研究2023-09-22 - AMD 数据中心业务营收历史数据与预测值
数据来源：AMD 2020-2022 年报，华泰研究预测2023-09-22 - 高通 Snapdragon Ride Flex 芯片
数据来源：高通官网、华泰研究2023-09-22 - AMD 四大业务板块：数据中心、客户端、游戏和嵌入式
数据来源：AMD 财报、华泰研究2023-09-22 - 黑芝麻智能武当 C1200
数据来源：黑芝麻官网、华泰研究2023-09-22 - 英伟达关键财务指标彭博一致预期 VS 华泰研究预测
数据来源：Bloomberg、华泰研究2023-09-22 - 高通 Snapdragon Ride 平台
数据来源：高通官网、华泰研究2023-09-22 - 主流 AI 芯片对比
数据来源：nextplatform 官网、HUAWEI、华泰研究2023-09-22 - 已公开搭载黑芝麻智能芯片车型情况
数据来源：各公司官网、汽车之家、华泰研究2023-09-22 - 华为 MDC 整体架构
数据来源：华为官网、华泰研究2023-09-22 - 华山 A1000 SoC 内部架构
数据来源：黑芝麻招股书、华泰研究2023-09-22 - 高通 Snapdragon Ride 平台
数据来源：高通官网、华泰研究2023-09-22 - 华山 A1000 SoC 外部系统架构
数据来源：黑芝麻招股书、华泰研究2023-09-22 - 华为露天矿无人驾驶解决方案总体架构
数据来源：华为官网、华泰研究2023-09-22 - 地平线、Mobileye、黑芝麻地算力 SoC 参数对比
数据来源：各公司官网、华泰研究2023-09-22 - 高通 Snapdragon Ride Flex 芯片
数据来源：高通官网、华泰研究2023-09-22 - Transformer 架构与 CNN 和 RNN 对比情况
数据来源：Devlin, Jacob, et al. "Bert: Pre-training of deep bidirectional transformers for language understanding." arXiv preprint arXiv:1810.04805 (2018).、OpenAl、2023-09-22 - 英伟达及其他厂商的合作车企情况
数据来源：各公司官网、华泰研究2023-09-22 - 大模型训练过程示意图
数据来源：CSDN 官网、华泰研究2023-09-22 - 全球自动驾驶市场营收规模 (单位:十亿美元)
数据来源：mckinsey 官网、华泰研究2023-09-22 - 地平线征程 5 芯片架构
数据来源：地平线官网、华泰研究2023-09-22 - 英伟达及其他厂商的自动驾驶芯片方案
数据来源：各公司官网、华泰研究2023-09-22 - 理想 L7 车型自动驾驶配置情况
数据来源：理想汽车官网、华泰研究2023-09-22 - 英伟达及其他厂商的自动驾驶 DCU 方案
数据来源：各公司官网、华泰研究2023-09-22 - 部分搭载地平线征程系列芯片乘用车车型
数据来源：各公司官网、IT 之家、汽车之家、中国日报、新浪汽车、凤凰新闻、车东西、华泰研究2023-09-22 - 英伟达及其他厂商的自动驾驶芯片及 DCU 方案算力对比
数据来源：各公司官网、华泰研究2023-09-22 - NVIDIA Drive OS 提供 CUDA与 TensorRT 开发包
数据来源：英伟达官网、华泰研究2023-09-22 - 英伟达 DRIVE Hyperion 参考架构概览
数据来源：英伟达官网、华泰研究2023-09-22 - 地平线 BPU 架构
数据来源：地平线官网、华泰研究2023-09-22 - 英伟达自动驾驶芯片
数据来源：英伟达官网、ANANDTECH、华泰研究2023-09-22 - 脉动张量计算核可有效降低计算功耗、延迟和所需数据带宽
数据来源：地平线官网、华泰研究2023-09-22 - 英伟达自动驾驶计算平台
数据来源：英伟达官网、ANANDTECH、AnyConnect、华泰研究2023-09-22 - 地平线产品服务生态体系
数据来源：亿欧汽车、华泰研究2023-09-22 - NVIDIA DRIVE 自动驾驶汽车端到端解决方案
数据来源：英伟达官网、华泰研究2023-09-22 - 部分搭载地平线征程系列芯片车型
数据来源：佐思汽研、华泰研究2023-09-22 - GeForce Now 库支持的云游戏列表
数据来源：英伟达官网、华泰研究2023-09-22 - 地平线艾迪开发平台
数据来源：地平线官微、华泰研究2023-09-22 - GeForce Now 分级收费服务模式
数据来源：英伟达官网、华泰研究2023-09-22 - 头部自动驾驶芯片参数表
数据来源：各公司官网、华泰研究2023-09-22 - 17Q1-23Q2 四大互联网巨头季度资本开支情况（单位：亿美元）
数据来源：各公司官网、华泰研究2023-09-22 - EyeQ 解决方案客户正转向其他厂商
数据来源：车东西、华泰研究2023-09-22 - 2023 年 8 月 Steam 游戏玩家显卡使用占比（TOP20）
数据来源：Steam 官网、华泰研究2023-09-22 - 历代 EyeQ 芯片参数表
数据来源：Mobileye 官网、华泰研究2023-09-22 - 2019 和 2022 年 steam 畅销榜游戏推荐配置
数据来源：ZDC 互联网消费调研中心、华泰研究2023-09-22 - 自动驾驶框架的对比
数据来源：《Planning-oriented Autonomous Driving》（2022，Shanghai AI Laboratory, Wuhan University, SenseTime2023-09-22 - 2022 年笔记本显卡关注度
数据来源：ZDC 互联网消费调研中心、华泰研究2023-09-22 - UniAD 运作流程图
数据来源：《Planning-oriented Autonomous Driving》（2022，Shanghai AI Laboratory, Wuhan University, SenseTime Research 等）、华泰研究2023-09-22 - 显卡销售定价体系
数据来源：虎嗅智库、华泰研究2023-09-22 - 特斯拉 Transformer 架构
数据来源：特斯拉 2022 AI Day、华泰研究2023-09-22 - STEAM 月均 In-game DAU 数量（单位：百万人次）
数据来源：网络2023-09-22 - AMD 与英伟达 AI 芯片产品各硬件结构、原材料等供应商一览
数据来源：英伟达年报，AMD 年报，AMD 官网，三星财报，招股说明书，华泰研究2023-09-22 - STEAM 月均 In-game DAU 数量（单位：百万人次）
数据来源：Steam、华泰研究2023-09-22 - MI300X 使用 HBM3 内存
数据来源：AMD 官网、华泰研究2023-09-22 - 显卡 3D Mark Time Spy 分数天梯图（数据截止 2023 年 9 月 20 日）
数据来源：UL Benchmarks、华泰研究2023-09-22 - MI300A 使用 HBM3 内存
数据来源：ADM 官网、华泰研究2023-09-22 - 2023-25 年各平台高期待值游戏数量（单位：个数）
数据来源：IGN、各工作室官网、华泰研究2023-09-22 - 衬底/基板供应商
数据来源：英伟达年报，AMD 官网，三星财报，华泰研究2023-09-22 - 2023 年游戏细分市场收入占比
数据来源：Bankmycell、Statista、Sensor Tower、华泰研究2023-09-22 - 台积电晶圆制造的其他供应商（包括原材料）
数据来源：台积电 2022 年报，asiatimes 官网，华泰研究2023-09-22 - 英伟达、AMD 游戏硬件收入（单位：百万美元）
数据来源：Visible Alpha 官网、华泰研究2023-09-22 - GPT 各代模型迭代情况
数据来源：OpenAI 官网、福布斯官网、InfoQ 官网、semianalysis 官网、微软官网、华泰研究2023-09-22 - 英伟达历代 GeForce 显卡价格走势
数据来源：AROGED、华泰研究2023-09-22 - AI 训练对算力的需求成倍上涨，尤其是 Transformer 相关模型
数据来源：英伟达官网、华泰研究2023-09-22 - 英伟达历代 GeForce 显卡价格走势
数据来源：网络2023-09-22 - 英伟达在 CoWoS 季度 Output 的占比
数据来源：semianalysis 官网、华泰研究2023-09-22 - DLSS 技术应用游戏一览（部分）
数据来源：英伟达官网、华泰研究2023-09-22 - 台积电年报中列举的硅晶圆供应商
数据来源：台积电 2022 年报，华泰研究2023-09-22 - 英伟达在售热门显卡性能介绍
数据来源：Tom's Guide、TechPowerUp、The Verge、英伟达官网、华泰研究2023-09-22 - 亚泰半导体的研磨液供应系统
数据来源：Tazmo 官网、华泰研究2023-09-22 - 英伟达库存成品情况
数据来源：Bloomberg、华泰研究2023-09-22 - Tazmo 半导体制造设备产品
数据来源：Tazmo 官网、华泰研究2023-09-22 - ETH 市场曾几度面临风波（数据截至 2023 年 9 月 20 日）
数据来源：Yahoo Finance、华泰研究2023-09-22 - Tazmo 研磨液供给系统设备
数据来源：Tazmo 官网、华泰研究2023-09-22 - 以太坊由 PoW 转向 PoS
数据来源：CoinList、华泰研究2023-09-22 - Graphcore Poplar 软件栈示意图
数据来源：Moor Insights & Strategy、华泰研究2023-09-22 - 2021 年上半年推出的 4 款 CMP 系列显卡性能参数情况
数据来源：英伟达官网、华泰研究2023-09-22 - AI 芯片性能对比（但并非同一基准的比较）
数据来源：各公司官网、华泰研究2023-09-22 - 英伟达游戏显卡业务营收情况及以太币价格季度走势 CY2017Q4-FY2024Q2（收盘价单位：美元）
数据来源：Yahoo Finance、公司公告、华泰研究2023-09-22 - Dojo ExaPOD 示意图
数据来源：Tesla AI Day（2022）、华泰研究2023-09-22 - Dojo 未来路线图
数据来源：Tesla AI Day（2022）、华泰研究2023-09-22 - 特斯拉 DOJO SWOT 分析
数据来源：Tesla AI Day （2021 & 2022）、华泰研究2023-09-22 - 特斯拉 Dojo 系列产品
数据来源：Tesla AI Day （2021 & 2022）、华泰研究2023-09-22 - Dojo 结构示意图
数据来源：Tesla AI Day（2021）、华泰研究2023-09-22 - Dojo Training Tile 性能
数据来源：Tesla AI Day（2021）、华泰研究2023-09-22 - D1 Dojo 芯片
数据来源：Hot Chips 34、华泰研究2023-09-22 - Dojo 分布式架构示意图
数据来源：Hot Chips 34、华泰研究2023-09-22 - Graphcore SWOT 分析
数据来源：Graphcore 官网、华泰研究2023-09-22 - Graphcore IPU BSP 技术
数据来源：Graphcore 官网、华泰研究2023-09-22 - Graphcore 融资
数据来源：Crunchbase、华泰研究2023-09-22 - Graphcore 管理团队简介
数据来源：Graphcore 官网、华泰研究2023-09-22 - Graphcore IPU 内存架构
数据来源：Graphcore 官网、华泰研究2023-09-22 - IPU 内部架构
数据来源：Graphcore 官网、华泰研究2023-09-22 - 生成式 AI 占科技投入支出不断增加（单位：十亿美元）
数据来源：Bloomberg Intelligence、IDC、华泰研究2023-09-22 - 全球生成式 AI 的市场机遇（单位：百万美元）
数据来源：Bloomberg Intelligence、IDC、华泰研究2023-09-22 - IPU 产品示意图
数据来源：Graphcore 官网、华泰研究2023-09-22 - Graphcore IPU 产品与 CPU 和 GPU 的区别
数据来源：Graphcore 官网、华泰研究2023-09-22 - IPU 性能介绍
数据来源：Graphcore 官网、华泰研究2023-09-22 - 基于台积电 SoIC-WoW 多晶圆堆叠 3D 封装技术
数据来源：Graphcore 官网、华泰研究2023-09-22 - Cerebras SWOT 分析
数据来源：华泰研究2023-09-22 - Cerebras AI Model Studio 固定价格表
数据来源：Cirrascale、华泰研究2023-09-22 - Cerebras 融资历程
数据来源：Wikipedia、Crunchbase、华泰研究2023-09-22 - Cerebras 技术团队背景
数据来源：Cerebras 官网、华泰研究2023-09-22 - CS-2 散热系统
数据来源：Cerebras 官网、华泰研究2023-09-22 - CS-2 内部构成示意图
数据来源：Cerebras 官网、华泰研究2023-09-22 - WSE-2 介绍
数据来源：Cerebras 官网、华泰研究2023-09-22 - Cerebras WSE-2 结构示意图
数据来源：Cerebras 官网、华泰研究2023-09-22 - Cerebras WSE-2 内存设计示意图
数据来源：Cerebras 官网、华泰研究2023-09-22 - WSE-2 SwarmX 示意图
数据来源：Cerebras 官网、华泰研究2023-09-22 - WSE-1 对比当时英伟达的旗舰 GPU Titan V
数据来源：Cerebras 官网、华泰研究2023-09-22 - WSE-2 对比当时英伟达的旗舰 A100
数据来源：Cerebras 官网、华泰研究2023-09-22 - WSE-1 和 WSE-2 性能指标对比
数据来源：Cerebras 官网、英伟达官网、华泰研究2023-09-22 - SAM 模型总览示意图
数据来源：《Segment Anything》Meta AI Research、华泰研究2023-09-22 - MTIA 产品实物图
数据来源：Meta 官网、华泰研究2023-09-22 - Meta MTIA v1（主要针对推理端）芯片产品图
数据来源：Meta 官网、华泰研究2023-09-22 - The Information 报道微软 Athena 芯片
数据来源：The Information、华泰研究2023-09-22 - The Verge 报道微软 Athena 芯片
数据来源：The Verge、华泰研究2023-09-22 - 第一阶段：单板多 FPGA 方案
数据来源：微软官网、半导体行业观察（Shilicon）、华泰研究2023-09-22 - 第二阶段：单板单 FPGA 方案
数据来源：微软官网、半导体行业观察（Shilicon）、华泰研究2023-09-22 - 使用 inf1 实例将推理服务部署到 AWS ECS 容器托管集群
数据来源：AWS 官网、华泰研究2023-09-22 - 第三阶段：Catapult FPGA 与数据中心网络紧密连接
数据来源：《A Cloud-Scale Acceleration Architecture》Microsoft Corporation、华泰研究2023-09-22 - 130 片 Trainium 需要两周就可以完成 GPT-3 训练
数据来源：AWS 官网、华泰研究2023-09-22 - AWS 的 in-house 大语言模型 Alexa Teacher Model
数据来源：AWS 官网、华泰研究2023-09-22 - AWS Inferentia2 芯片架构
数据来源：AWS 官网、华泰研究2023-09-22 - AWS Trainium 芯片架构
数据来源：AWS 官网、华泰研究2023-09-22 - 谷歌 TPU SWOT 分析
数据来源：华泰研究2023-09-22 - 论文展示-TPU v4 在不同机器学习任务上性能优于 A100
数据来源：谷歌官网、华泰研究2023-09-22 - 论文展示-TPU 对 FLOPS 利用率高达 46.2%
数据来源：谷歌官网、华泰研究2023-09-22 - BERT 模型中使用 TPU v4 相比 A100 能节省成本
数据来源：谷歌官网、华泰研究2023-09-22 - TPU v2/v3/v4/v5e 对比图
数据来源：谷歌官网、华泰研究2023-09-22 - 五代 TPU 性能对比
数据来源：谷歌官网、nextplatform 官网、华泰研究2023-09-22 - 脉动阵列卷积加速示意图
数据来源：谷歌官网、CSDN（《脉动阵列：因 Google TPU2023-09-22 - 2016 年至今谷歌云计算、AI 芯片、机器学习及 AI 应用赋能进程梳理
数据来源：谷歌官网、华泰研究2023-09-22 - GPU 与 TPU 优缺点对比
数据来源：谷歌、CSDN、Openmetal、华泰研究2023-09-22 - 海外云大厂和互联网巨头的自研芯片
数据来源：The Information 官网、各公司官网、华泰研究2023-09-22 - 英伟达 H100 比 Gaudi2 在 BERT 模型上快 2.4 倍
数据来源：英伟达，华泰研究2023-09-22 - 英特尔 AI 芯片业务 SWOT 分析
数据来源：华泰研究2023-09-22 - Habana Gaudi 2 比英伟达 A100 快 2 倍
数据来源：Habana Labs，华泰研究2023-09-22 - 谷歌 TPU 同样能与英伟达 A100 一战
数据来源：谷歌，华泰研究2023-09-22 - Habana Gaudi2 产品架构图
数据来源：Habana Labs，华泰研究2023-09-22 - 英特尔 Ponte Vecchio GPU
数据来源：英特尔官网、华泰研究2023-09-22 - Habana Gaudi2 与 A100 的推理延迟基准测试（单位：秒）
数据来源：Hugging Face，华泰研究2023-09-22 - 英特尔 Habana Gaudi 2
数据来源：英特尔官网，华泰研究2023-09-22 - MME 与 TPC 异构可以使运算重叠，显著加速工作
数据来源：Habana Labs，华泰研究2023-09-22 - ISC2022 英特尔将 Falcon Shores 规划在 CPU 与 GPU 之间，ISC2023 移动至 Gaudi 系列和 GPU 之间
数据来源：英特尔官网，华泰研究2023-09-22 - AMD SWOT 分析
数据来源：华泰研究2023-09-22 - AMD HIP 使 ROCm 可以部署英伟达和 AMD 的 GPU
数据来源：AMD 官网、华泰研究2023-09-22 - 微软 DeepSpeed 函数库支持 ROCm 和 AMD GPU
数据来源：微软官网、华泰研究2023-09-22 - ROCm 系统对应英伟达 CUDA 部分名称
数据来源：CSDN、华泰研究2023-09-22 - 英伟达 CUDA 软件库及应用场景
数据来源：英伟达官网、华泰研究2023-09-22 - AMD 与 Hugging Face 的合作伙伴关系
数据来源：AMD 数据中心与人工智能首映式、华泰研究2023-09-22 - AMD 与 Mosaic ML 的合作伙伴关系
数据来源：MosaicML 官网、华泰研究2023-09-22 - MosaicML 希望能同时使用英伟达和 AMD 两套硬件+软件
数据来源：MosaicML 官网、华泰研究2023-09-22 - ROCm 支持主流机器学习框架
数据来源：AMD ROCm 手册 2022 版、华泰研究2023-09-22 - PyTorch 中可以选择 ROCm
数据来源：AMD ROCm 手册 2022 版、华泰研究2023-09-22 - AMD MI300X 产品实物图（共 8 个 GPU chiplets）
数据来源：AMD 数据中心&AI 首映式、华泰研究2023-09-22 - AMD MI300A 产品实物图
数据来源：AMD 数据中心&AI 首映式、华泰研究2023-09-22 - 英伟达及 AMD 主要 GPU 相关产品参数对比
数据来源：AMD 官网、英伟达官网、华泰研究2023-09-22 - AMD MI300A 产品示意图
数据来源：CES 2023、华泰研究2023-09-22 - 搭载 8 个 MI300X 的 Instinct Platform
数据来源：AMD 数据中心&AI 首映式、华泰研究2023-09-22 - 单片 MI300X 运行 400 亿参数的 Falcon 模型
数据来源：AMD 官网、华泰研究2023-09-22 - 2011 年 AMD 的首款 APU 产品 Llano：CPU+GPU 结合的设
数据来源：AnandTech、华泰研究2023-09-22 - 2017 年 AMD 发布的论文中讨论了包含 CPU、GPU 和 HBM
数据来源：T. Vijayaraghavan et al., "Design and Analysis of an APU for Exascale2023-09-22 - 2011 年 AMD 提出 APU 概念，将结合 CPU 与 GPU 在左右脑层面的分工区别和组合构想
数据来源：AMD 推特官方、华泰研究2023-09-22 - 英伟达 SWOT 分析
数据来源：华泰研究2023-09-22 - 英伟达新推理产品与旧版 GPU、其他厂商 GPU 对比
数据来源：英伟达、英特尔、SHI 官网，华泰研究2023-09-22 - NVIDIA 在 2023 GTC 推出的四款推理产品
数据来源：NVIDIA，华泰研究2023-09-22 - NVIDIA AI 推理流程
数据来源：NVIDIA 官网、华泰研究2023-09-22 - 在 AI 的通用计算中，推理以 CPU 为主
数据来源：Intel 官网，华泰研究2023-09-22 - 微软的深度学习推理测试：GPU 与 CPU 吞吐量对比（张图片/秒）
数据来源：微软官网，华泰研究2023-09-22 - CUDA、ROCm 以及 OpenCL 三者对比
数据来源：CUDA 官网、run:ai 官网、phoronix、incredibuild、华泰研究2023-09-22 - AI 芯片行业产业链的相关公司估值（数据截至 2023 年 9 月 20 日）
数据来源：Visible Alpha 官网、华泰研究2023-09-22 - 英伟达 CUDA 软件库及应用场景
数据来源：英伟达官网、华泰研究2023-09-22 - ROCm 系统对应英伟达 CUDA 部分名称
数据来源：CSDN、华泰研究2023-09-22 - AMD HIP 使 ROCm 可以部署英伟达和 AMD 的 GPU
数据来源：AMD 官网、华泰研究2023-09-22 - 微软 DeepSpeed 函数库支持 ROCm 和 AMD GPU
数据来源：微软官网、华泰研究2023-09-22 - 英伟达 CUDA-X AI 生态圈及相关客户矩阵
数据来源：英伟达官网、华泰研究2023-09-22 - AMD 与 Hugging Face 的合作伙伴关系
数据来源：AMD 数据中心与人工智能首映式、华泰研究2023-09-22 - AMD 与 Mosaic ML 的合作伙伴关系
数据来源：MosaicML 官网、华泰研究2023-09-22 - MosaicML 希望能同时使用英伟达和 AMD 两套硬件+软件
数据来源：MosaicML 官网、华泰研究2023-09-22 - ROCm 支持主流机器学习框架
数据来源：AMD ROCm 手册 2022 版、华泰研究2023-09-22 - PyTorch 中可以选择 ROCm
数据来源：AMD ROCm 手册 2022 版、华泰研究2023-09-22 - CUDA 软件生态圈效应
数据来源：英伟达官网、华泰研究2023-09-22 - NVLink 与 NVSwitch 可以纵向扩展，训练大参数模型
数据来源：英伟达官网、华泰研究2023-09-22 - 英伟达不断扩展加速计算生态圈
数据来源：CES 2023、华泰研究2023-09-22 - NVIDIA NVLink 4 NVSwitch 示意图
数据来源：英伟达官网、华泰研究2023-09-22 - 英伟达 CUDA-X AI 生态圈及相关客户矩阵
数据来源：英伟达官网、华泰研究2023-09-22 - Tazmo 半导体制造设备产品：CoWoS 瓶颈或为研磨液供给
数据来源：Tazmo 官网、华泰研究2023-09-22 - TSMC-SoIC 与传统 3D IC 封装对比示意图
数据来源：TSMC、华泰研究2023-09-22 - SoIC 封装的芯片可利用 CoWoS 封装整体集成到其他芯片
数据来源：TSMC、华泰研究2023-09-22 - 亚泰半导体的研磨液供应系统
数据来源：Tazmo 官网、华泰研究2023-09-22 - Tazmo 研磨液供给系统设备
数据来源：Tazmo 官网、华泰研究2023-09-22 - 台积电 CoWoS 封装示意图
数据来源：台积电官网、华泰研究2023-09-22 - 限制文件中关于算力转换的参考：条件为 INT8 超过 600TOPS 或 FP16 超过 300TFLOPS
数据来源：美国商务部、华泰研究2023-09-22 - 英伟达及 AMD 过往部分受影响产品
数据来源：AMD 官网、英伟达官网、华泰研究2023-09-22 - 2022 年 10 月美国商务部更新的限制条件（107 新规）
数据来源：美国商务部、华泰研究2023-09-22 - Grace CPU 使用的 LPDDR5X 内存
数据来源：英伟达官网、华泰研究2023-09-22 - Zen 4 CPU 使用的 DDR5 内存
数据来源：AMD 官网、华泰研究2023-09-22 - HBM2e VS. DDR5 VS. LPDDR5X
数据来源：英伟达官网、华泰研究2023-09-22 - MI300X 使用 HBM3 内存
数据来源：AMD 官网、华泰研究2023-09-22 - MI300A 使用 HBM3 内存
数据来源：ADM 官网、华泰研究2023-09-22 - 单颗英伟达 Grace CPU 的基本构成
数据来源：英伟达官网、华泰研究2023-09-22 - 英伟达 Grace Hopper 中 CPU 对应内存 LPDDR5X（512GB），GPU 对应内存为 HBM3（96GB）
数据来源：英伟达官网、华泰研究2023-09-22 - HBM 与 DDR 的区别
数据来源：SK 海力士官网、华泰研究2023-09-22 - AMD 和 SK 海力士合作设计了
数据来源：华泰研究2023-09-22 - MI250X 通过第三代 Infinity Fabric 实现 800GB/s 的 GPU 互联（红线、绿线、灰线和蓝线为 Infinity
数据来源：AMD 官网、华泰研究2023-09-22 - NVLink Switch 系统通过两级 NVLink 结构，使得单个 DGX GH200 系统可连
数据来源：英伟达官网、华泰研究2023-09-22 - 英伟达 Grace Hopper 通过 NVLink-C2C 和 NVLink Switch 实现 CPU-GPU 和 GPU-GPU 互连
数据来源：英伟达官网、华泰研究2023-09-22 - AMD 早在 2013 年便提出 hUMA（异构统一内存访问）架构，
数据来源：AMD 官网、华泰研究2023-09-22 - 英伟达 Grace Hopper 芯片通过地址转换服务（ATS）实现统一的虚拟内存
数据来源：英伟达官网、华泰研究2023-09-22 - 英伟达 Grace Hopper 芯片实物图
数据来源：AnandTech 官网、华泰研究2023-09-22 - MI300 芯片结构示意图
数据来源：AMD 官网、华泰研究2023-09-22 - GH200 芯片结构示意图
数据来源：英伟达官网、华泰研究2023-09-22 - 英伟达 Grace Hopper 芯片中同时包含 CPU 和 GPU
数据来源：英伟达官网、华泰研究2023-09-22 - AMD MI300 产品实物图
数据来源：Tom’s Hardware 官网、华泰研究2023-09-22 - 英伟达及 AMD 主要 GPU 相关产品参数对比
数据来源：AMD 官网、英伟达官网、华泰研究2023-09-22 - AMD MI300 产品示意图
数据来源：CES 2023、华泰研究2023-09-22 - 台积电先进封装 3DFabric
数据来源：台积电官网、华泰研究2023-09-22 - NVLink 和 NVSwitch 协同工作
数据来源：英伟达官网、ICspec 官网、华泰研究2023-09-22 - 各代 NVSwitch 性能演变
数据来源：英伟达官网、华泰研究2023-09-22 - 历代 PCIe 总线标准
数据来源：WCCFtech 官网、Rambus 官网、华泰研究2023-09-22 - 英伟达 Grace Hopper 中的 Grace CPU 采用 ARM 架构
数据来源：AnandTech 官网、华泰研究2023-09-22 - AMD MI300 中的 Zen 4 CPU 采用 x86 架构
数据来源：Wccftech 官网、华泰研究2023-09-22 - 橡树岭国家实验室 Frontier 超级计算机搭载 AMD MI250X
数据来源：HPE 惠与公司官网，华泰研究2023-09-22 - 劳伦斯利弗莫尔实验室 EL Capitan 超级计算机搭载 AMD MI300
数据来源：HPE 惠与公司官网、华泰研究2023-09-22 - AMD MI300X 产品实物图（图中可见共 8 个 GPU chiplets）
数据来源：AMD 数据中心&AI 首映式、华泰研究2023-09-22 - 搭载 8 个 MI300X 的 Instinct Platform
数据来源：AMD 数据中心&AI 首映式、华泰研究2023-09-22 - 单片 MI300X 运行 400 亿参数的 Falcon 模型
数据来源：AMD 官网、华泰研究2023-09-22 - 人脑处理信息与人工智能训练和推理的流程对比
数据来源：CSDN、谷歌官网、Vaswani A, Shazeer N, Parmar N, et al. Attention is all you need[J]. Advances in neural information processing systems, 2017, 30.、2023-09-22 - AMD MI300A 产品实物图
数据来源：AMD 数据中心&AI 首映式、华泰研究2023-09-22 - AMD MI300A 产品示意图
数据来源：CES 2023、华泰研究2023-09-22 - 2017 年 AMD 发布的论文中讨论了包含 CPU、GPU 和 HBM 内存堆栈的 APU 芯片设计
数据来源：T. Vijayaraghavan et al., "Design and Analysis of an APU for Exascale Computing," 2017 IEEE International2023-09-22 - 2011 年 AMD 已提出 APU 概念，将结合 CPU 与 GPU 在左右脑层面的分工区别和组合构想
数据来源：AMD 推特官方、华泰研究2023-09-22 - 英特尔桌面（及工作站）产品路线图（至 2023Q4）
数据来源：英特尔，华泰研究2023-09-22 - Meteor Lake 单元结构 图
数据来源：英特尔，华泰研究 资2023-09-22 - Meteor Lake 内部结构图（ADM 即 Adamantine，四级缓存）
数据来源：英特尔专利文件，华泰研究2023-09-22 - 四年五节点规划图：2024 年进入 Intel 18A 节点
数据来源：英特尔，华泰研究2023-09-22 - 晶体管密度对比，台积电工艺 7nm 相当于英特尔 10nm，台积电 5nm 为英特尔 7nm（Intel 3），台
数据来源：Digitimes，华泰研究2023-09-22 - NVIDIA DGX GH200 通过 NVLink + NVSwitch 整合了 256 个 GPU，实现高达 144 TB 内存的容量
数据来源：英伟达官网、华泰研究2023-09-22 - 英伟达 DGX H100 VS DGX GH200
数据来源：英伟达官网、华泰研究2023-09-22 - 历代 NVLink 参数
数据来源：英伟达官网、ICspec 官网、华泰研究2023-09-22 - oneAPI 架构示意图
数据来源：英特尔，华泰研究2023-09-22 - 基于 SYCL 的 oneAPI 支持多种硬件和多种框架
数据来源：英特尔，华泰研究2023-09-22 - Sierra Forest 将于 2024 年一季度开始出货
数据来源：英特尔，华泰研究2023-09-22 - Granite Rapids 将于 2024 年在 Sirerra Forest 后推出
数据来源：英特尔，华泰研究2023-09-22 - 2023 年英特尔 DCAI 会议中公布的 Xeon 路线图
数据来源：英特尔，华泰研究2023-09-22 - AMX 架构由 TILE 和 TMUL（平铺矩阵乘法）组成
数据来源：英特尔，华泰研究2023-09-22 - P-Core 和 E-Core 产品布局
数据来源：英特尔官网、华泰研究2023-09-22 - AMD 第四代 EPYC 比英特尔第三代 Xeon Performance/
数据来源：AMD 官网、华泰研究2023-09-22 - 英特尔在 ISC 2023（2023 年 5 月 21 日至 24 日）公布的产品路线图
数据来源：英特尔，华泰研究2023-09-22 - P-Core 与 E-Core 的关注重点不同，前者关注性能，后者关注能耗效率
数据来源：英特尔官网、华泰研究2023-09-22 - AI 的“iPhone”时刻
数据来源：太平洋电脑网、苹果官网、英伟达官网、苹果派、OpenAI 官网、各公司公告、华泰研究2023-09-22 - 英特尔希望切入的边缘计算目标应用场景
数据来源：英特尔官网，华泰研究2023-09-22 - 英伟达主要 AI 芯片参数对比情况
数据来源：英伟达官网、ANANDTECH、tom's Hardware、华泰研究2023-09-22 - 英伟达数据中心业务营收情况（百万美元）
数据来源：公司公告、英伟达官网、华泰研究2023-09-22 - 报告中提及上市公司一览（除英伟达和 AMD）
数据来源：Bloomberg、华泰研究2023-09-22 - 2016 年至今英伟达历史股价、Forward PE 和 Forward PS（数据截至 2023 年 9 月 20 日）
数据来源：Bloomberg、华泰研究2023-09-22 - 2016 年至今 AMD 历史股价、Forward PE 和 Forward PS（数据截至 2023 年 9 月 20 日）
数据来源：Bloomberg、华泰研究2023-09-22 - AMD 关键财务指标彭博一致预期 VS 华泰研究预测（单位：百万美元）
数据来源：Bloomberg、华泰研究2023-09-22 - AMD 分板块盈利预测
数据来源：华泰研究预测2023-09-22 - 英伟达在 CoWoS 季度 Output 的占比
数据来源：semianalysis 官网、华泰研究2023-09-22 - AMD 2021Q1-2023Q2 分业务同比增速
数据来源：网络2023-09-22 - AMD 股权结构情况（根据 2023 中报）
数据来源：Nasdaq，Bloomberg，华泰研究2023-09-22 - AMD 2020Q1-2023Q2 数据中心业务营业利润（单位：百万美
数据来源：AMD 财务公告，华泰研究2023-09-22 - AMD 2021Q1-2023Q2 分业务同比增速（单位：百万美元）
数据来源：AMD 财务公告，华泰研究2023-09-22 - AMD 2020Q1-2023Q2 分业务营收占比
数据来源：AMD 财务公告，华泰研究2023-09-22 - 2016 年至今英伟达历史股价、Forward PE 和 Forward PS（数据截至 2023 年 9 月 20 日）
数据来源：Bloomberg、华泰研究2023-09-22 - 英伟达盈利预测（单位：百万美元）
数据来源：Visible Alpha 官网、华泰研究2023-09-22 - 英伟达合作客户主要针对高端自动驾驶
数据来源：英伟达官网、各厂商官网、华泰研究2023-09-22 - 英伟达 AIC 厂商营收及库存情况
数据来源：Bloomberg、华泰研究2023-09-22 - 地平线天工开物工具链
数据来源：地平线官网、华泰研究2023-09-22 - 16Q1-23Q1 AMD 与英特尔在 PC 端 CPU 市场份额
数据来源：Mercury Research、华泰研究2023-09-22 - 16Q1-23Q1 AMD 与英特尔在服务器端 CPU 市场份额
数据来源：Mercury Research、华泰研究2023-09-22 - 全球独显 GPU 市场份额 2014Q2-2023Q1（单位：%）
数据来源：Jon Peddie Research、英伟达官网、华泰研究2023-09-22 - 2022 年服务器 GPU 单元份额情况
数据来源：IDC、华泰研究2023-09-22 - 全球独显 GPU 市场份额及英伟达/AMD/Intel 游戏业务主要产品系列（单位：%）
数据来源：Aroged、英伟达官网、华泰研究2023-09-22 - AI 训练和推理硬件市场规模（单位：十亿美元）
数据来源：Bloomberg Intelligence、IDC、华泰研究2023-09-22 - 全球自动驾驶市场各级别营收规模占比 (单位:十亿美元)
数据来源：高通官网、华泰研究2023-09-22 - 云游戏市场规模增速（单位：百万美元）
数据来源：Newzoo 官网、华泰研究2023-09-22 - 各游戏主机产品年销售量（单位：百万台）
数据来源：VGChartz 官网、华泰研究2023-09-22 - 2020-2025 年全球游戏市场收入增速（单位：亿美元）
数据来源：Newzoo 官网、华泰研究2023-09-22 - 2015-2025 年全球游戏玩家增速及预测（单位：亿）
数据来源：Newzoo 官网、华泰研究2023-09-22 - 全球头部 PC 厂商出货量及预测（单位：百万台）
数据来源：IDC 官网、华泰研究2023-09-22 - 人类大脑不同部分功能及对应芯片种类
数据来源：Hari R. From brain–environment connections to temporal dynamics and social interaction: principles of human brain2023-09-22 - AMD Instinct MI 系列 GPU 发展历程
数据来源：AMD 官网、华泰研究2023-09-22 - 人类大脑不同部分功能及对应芯片种类
数据来源：Hari R. From brain–environment connections to temporal dynamics and social interaction: principles of human brain2023-09-22 - AMD 与英特尔服务器制程发展进度对比及相关产品举例，2019 年 AMD 服务器制程首度超越英特尔
数据来源：AMD 官网、英特尔官网、华泰研究2023-09-22 - AMD 与英特尔 PC 端制程发展进度对比及相关产品举例，2018 年 AMD PC 端制程首度超越英特尔
数据来源：AMD 官网、英特尔官网、华泰研究2023-09-22
图表属性
- 数据类型：其他
- 行业分类：工业制造
- 发布日期：2023-09-22
- 文件格式：PNG