字节跳动：人工智能企业研究报告.pdf

《字节跳动：人工智能企业研究报告.pdf》由会员分享，可在线阅读，更多相关《字节跳动：人工智能企业研究报告.pdf（138页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、人工智能企业研究报告lets go !lets go !为什么是英伟达？从20世纪信息技术革命以来，人类进入了网络时代，我们经历了PC互联网、移动互联网，未来还将进入物联网、车联网、以及人工智能时代。你会发现网络时代有个非常明显的特征，比如，计算机、手机是由硬件层（如CPU）、软件层（操作系统）以及上层的应用层组成（社交、电商、出行等），所以物联网、车联网以及人工智能同样具备类似的逻辑，而且我们也会发现不同层次孕育出了不同的公司，如PC互联网：英特尔、英伟达、苹果、微软、腾讯、Facebook、阿里巴巴、谷歌等；移动互联网：ARM、高通、谷歌（安卓操作系统、IOS操作系统）、苹果、微信、推特、

2、YouTube、哔哩哔哩、字节跳动等等。所以未来的投资逻辑就是照着当前的发展情况寻找不同层次未来有可能成为行业头部的公司，此外，还应该加上这些公司的周边公司。而英伟达则是人工智能时代的领头羊，随着数据越来越庞大，非结构化的数据越来越多，需要的算力即计算能力越来越大，例如2023年大火的ChatGPT，它是一个大型的语言模型，需要大量的数据进行训练，而训练所需的算力是惊人的，而GPU相比CPU更加适合大量的并行计算，他的计算时间会缩短很多，用一个熟知的例子解释就是：2012年吴恩达领衔谷歌大脑从1000万张图中识别一只猫，整个过程动用了1000台电脑和16000个CPU。而之后用英伟达的GPU代

3、替了英特尔的CPU，仅用了16台电脑和64个GPU就完成了同样的识别工作。所以未来GPU可能会取代CPU成为AI算力的核心。说到这里，按照上面的逻辑，那么英伟达不就成为了AI时代的硬件层吗？对，正是这样，但是还不止这些，如果看看PC互联网时代各个层次公司的股价就会发现，英特尔尽管雄霸全球计算机的CPU市场，但是它的市值远远低于微软的市值，而微软正是因为它控制了PC的操作系统。在信息技术行业有个规律叫做安迪比尔定律，即what Andy gives，bill takes away。比尔的操作系统吃掉了英特尔硬件的利润。所以做硬件还不够，如果能做到一统AI时代的操作系统，也许就会有统治整个AI时代

4、的机会。什么是人工智能？首先我们需要介绍一些简单的人工智能的知识：人工智能的意思是让机器模拟人类的决策方式，具备人的一些能力。如图所示：模型历史数据训练新的数据输入预测未知属性规律经验归纳新的问题输入预测未来什么是人工智能？那么为了模拟人的决策方式，还需要具备一些能力模拟人的决策，例如，人是通过感官接收外部的信息（视觉，味觉，嗅觉，触觉等等），并将信息传递给大脑，由大脑分析后做出决策，因为，机器也需要具备此类能力，这也就变成了人工智能的研究方向：人工智能机器学习强化学习监督学习非监督学习深度学习自然语言处理文本生成问答文本分类机器翻译语言语言转换文本文本转换语音图像图像识别计算机视觉自动推理知

5、识表示规划能力学习能力语言能力感知能力推理能力记忆能力规划能力人类智能人工智能研究框架正如前面所指出的，与PC互联网和移动互联网一样，人工智能同样分为三个层次，即基础层、技术层和应用层。基础层包括芯片、传感器、算法、云计算、大数据等等；技术层包括上页所说的语音识别、计算机视觉等等；应用层就是人工智能技术在各行业的应用，比如最近大火的chatGPT。中国最强的就是应用层，在基础层的差距较大。清楚了三个框架，那么做投资的时候就非常清晰了，就对照三个层次寻找不错的公司即可。实际上，chatGPT就是人工智能行业发展的一个转折点，从今年2月以来英伟达和微软的股价一直在涨，英伟达因为提供算力芯片，所以尽

6、管很多行业外的人不懂，但是股价已经反映了一切，而且在2023年3月23日超过伯克希尔哈撒韦的市值，成为美国第五大上市公司。国内的人工智能公司也受此影响，股价纷纷大涨，例如科大讯飞等等。当然，英伟达不仅仅是做芯片而已，聊天机器人、推荐系统（这个时代，推荐引擎会替代搜索引擎）、自动驾驶、元宇宙等等一切跟人工智能相关的内容它都在做，这也是我从去年8月开始研究英伟达的原因，但是我想目前的了解还是不够的，还需要更深入的内容。我会继续，后续的报告会按照三个层次来研究不同的人工智能公司，为大家提供一些不同的视角，但是此份报告就先到这里，因为拖得时间太长了，对于投资来讲，时间就是一切。同时，也可以对照美股的公

7、司研究国内的公司，例如GPU方面，国内一些公司与英伟达的差距是一到两代的差距，不过我们的举国体制下，也许有超越的机会，不是吗？本篇报告的意义在于给大家展示一个更全面的英伟达，但是对于其商业上的分析不足，更多是技术上。注：报告中的数据来自年报、wind、公开信息，图片来自官网，icon来自https:/ center）专业可视化（professional visualization）数据来源：NVIDIA Quarterly Revenue Trend，单位：billion以上的数据来自于英伟达官网的NVIDIA Quarterly Revenue Trend，与其年报收入有较小的差距，但是也基

8、本反映了其收入结构。从收入结构图中可以看到，其游戏收入占比最高，其次是数据中心收入，再次是专业可视化部分收入，最后是其他收入部分。以2022年为例，游戏收入部分主要还是其GeForce GPU的销售；数据中心部分收入主要来自于其Ampere架构的GPU，用于云计算和AI；专业可视化的收入来自于Ampere架构产品和3D设计、AI等的需求增加。英伟达发展历史梳理接下来的篇幅，将主要来分析英伟达目前在做什么，以及做到了什么样的程度，这对于我们的启示在于，由于英伟达是以GPU为核心进而拓展出了人工智能、元宇宙等更新的业务，我们可以通过了解英伟达的发展现状，从而理解目前这些领域最前沿的技术是什么？这些

9、技术可以做什么？并且这一发展过程绝不仅仅是英伟达单打独斗，他是一家生态型企业，各部分业务都涉及诸多群体，我们也可以挖掘更多的公司，他们将是人工智能时代的明星。例如，英伟达的自动驾驶业务所需要的HD mapping companies(即高精度地图行业)，这真是个有趣的发现，因为要发展自动驾驶业务的话，对于高精度地图的需求必不可少，例如高德地图等公司，所以当你研究到这步的时候，不得不佩服阿里、腾讯这些公司，他们早已布局，而且你会发现高德地图衍生了非常多的商业模式，its amazing。带着这样的好奇心，那我们就先看看英伟达究竟是一家什么样的公司，以及他最终构建的究竟是什么样的商业版图。首先，沿

10、着时间的脉络，来了解这家公司的发展历程：1993黄仁勋和其他两位创始人共同创立了英伟达1994与 SGS-Thomson Microelectronics 达成了首个战略合作伙伴关系，为该公司制造单芯片图形用户界面加速器1996推出首款支持 Direct3D 的 Microsoft DirectX 驱动程序1997推出全球首款 128 位 3D 处理器 RIVA 128。1998 与台积电签约建立多年战略合作伙伴关系 扩展RIVA处理器系列，RIVA 128ZX提供了业内超快的3D处理能力，RIVA TNT是第一款多纹理3D处理器。1999 NVIDIA 发明了图形处理器，由此走上了重塑行业的

11、道路 宣布以每股 12 美元的价格首次公开募股2000 收购显卡技术先驱 3dfx 发布全球首款笔记本电脑 GPU GeForce2 Go 微软选择NVIDIA为其首款Xbox游戏机提供图形处理器2001 成为发展最快的半导体公司，收入达到 10 亿美元，并被纳入标准普尔 500 指数 携 NFORCE 进军集成显卡市场 推出业内首款可编程GPU-NVIDIA GeForce3，使开发者能够创建定制视觉效果2002 第 1 亿台处理器出货 推出NVIDIA 推出游戏之道，旨在鼓励游戏开发者充分利用 GPU 的强大功能2003 收购无线领域图形和多媒体技术的领导者MEDIA Q 推出“Dusk、

12、Ogre 和 Time Machine”的三重演示，展示了栩栩如生的几何形状的头发、动态模糊、基于时间的着色、高级皮肤着色和其他突破性的图形功能2004 与暴雪娱乐合作，发布了采用3D图形技术游戏“魔兽世界”，这款大型多人在线游戏很快成为全球最热门的游戏 推出SLI技术，允许将多个GPU连接在一起，并显著提升了单台机器的图形处理能力 帮助美国国家航空航天局重建了火星地形；借助NVIDIA技术，漫游者号传输的数据在逼真的虚拟现实中实现渲染，让科学家们可以如同在火星表面上自由移动一样探索火星2005 收购总部位于台湾的核心逻辑技术开发商Uli Electronics 为索尼 PLAYSTATION

13、 3开发处理器2006 第 5 亿台图形处理器出货 推出 CUDA，这是一种用于通用 GPU 计算的革命性架构。借助 CUDA，科学家和研究人员能够利用 GPU 的并行处理能力来应对最为复杂的计算挑战 收购 Hybrid Graphics，这是一家为手持设备开发嵌入式 2D 和 3D 图形软件的开发商2008推出 Tegra 移动处理器，其功耗比普通 PC 笔记本电脑低 30 倍，并可提供酷炫的性能 收购 Mental images，这家公司是视觉渲染软件领域的领导者，其 Iray 软件与Quadro GPU 相结合，通过逼真的设计渲染效果为创意专业人士提供即时反馈 Apple 为其突破性产品

14、 MacBook、MacBook Pro 和 MacBook Air 笔记本电脑采用GeForce 9400M GPU 收购 AGEIA，这家公司是游戏物理技术开发商，其 PhysX 软件在游戏中用于再现物理性质对物理世界中的物体的影响效果2009 与 Google 合作，在其 Tegra 处理器上运行 Android 系统 与 Siemens Healthcare 携手创造出全球首个 3D 超声波 推出了代号为“Fermi”的新一代 CUDA GPU 架构2010 Tesla GPU 为全球超快的超级计算机，即中国的 Tianhe-1A，提供动力支持 推出 Optimus 技术，这是笔记本电

15、脑的一项突破，可实现自动管理 GPU 以平衡电池寿命和性能 奥迪选择 NVIDIA GPU 为全球所有奥迪汽车的导航和娱乐系统提供支持2011 推出全球首款双核移动处理器 Tegra 2，在此基础上打造出首款 Android 平板电脑 第10亿台图形处理器出货 与英特尔达成为期六年的交叉授权协议，赢得15亿美元的授权费 在CES大会上推出“Project Denver”,这是一款基于超高效ARM架构的定制CPU2012 NVIDIA GRID 将图形引入云端，首款虚拟化 GPU 问世 推出功能强大的基于 Tegra 3 的平板电脑和智能手机 推出基于 Kepler 的 GeForce GTX

16、600 系列，可提供世界上超快的游戏性能2007 创下第一季度 10 亿美元的营收业绩 推出 Tesla GPU，让此前在超级计算机中提供的计算能力广泛用于药物研发、医学成像和天气建模等领域研究人员的工作 收购 PortalPlayer，这是一家为个人媒体播放器提供半导体、固件和软件的供应商2014 推出 Maxwell（第 10 代架构），助力 GeForce GTX GPU 在性能、图形和效率方面取得突破性进展 NVIDIA Tegra K1 正式发布，这是一款192核超级芯片，将全球速度超快的GPU的DNA注入了移动设备2015 NVIDIAGeForce GTX TITAN X问世，这

17、是有史以来功能极其强大的处理器，专为训练深度神经网络而打造 NVIDIA Tegra X1 是一款256核移动超级芯片，可为深度学习和计算机视觉应用程序带来1 Teraflops 的处理能力 Jetson TX1 是模块化超级计算机，支持新一代智能自主机器2016 推出 NVIDIA Iray VR，通过模拟光线和材质来创建逼真的交互式虚拟环境 NVIDIA DRIVE PX2 支持功能强大的车载人工智能，使汽车行业走上自动驾驶汽车的道路 推出第11代GPU架构NVIDIA Pascal，为更为先进的NVIDIA Tesla 加速器和GeForce GTX 显卡提供支持 推出NVIDIA DG

18、X-1,这是全球首款一体化深度学习超级计算机，可强力支持人工智能应用程序2017 借助NVIDIA Isaac 机器人模拟器，可以更轻松地训练和部署智能机器人 NVIDIA推出NVIDIA Volta GPU架构，借助NVIDIA Tesla V100 GPU加速器为DGX系列AI超级计算机提供支持 NVIDIA SHIELD 借助Google Assistant 和SmartThings Hub技术将AI带入家庭 模块化NVIDIA Jetson TX2 AI 超级计算机为AI城市的功能强大的智能机器人、无人机和智能摄像头打开了大门2013 令人震撼的游戏和娱乐便携设备 NVIDIA SHI

19、ELD 面向游戏玩家推出 GeForce GTX TITAN，采用与世界顶级超级计算机相同的“DNA”收购 Portland Group，进而推动 NVIDIA 为加速计算革命创建开发者工具的进程 NVIDIA GRID 视觉计算设备问世，可为小型企业网络上的几乎任何设备提供超快的GPU 性能 发布全球超快的四核移动处理器Tegra 4和首款完全集成的4G LTE 移动处理器 Tegra 4i2018 推出NVIDIA DGX-2，这是首款能够提供2Petaflops(1petaflop等于每秒钟进行1千万亿次的数学运算)计算能力的单一服务器，由NVIDIA V100 GPU和革命性的GPU互

20、联结构NVIDIA NVSwitch提供支持 NVIDIA Clara 平台问世，提升了数百万种传统医疗仪器的功能，并未采用AI的医疗设备开创了未来 推出NVIDIA Turing GPU架构，为全球首款具备实时光线追踪功能的GPU提供支持，而实时光线追踪长期以来被视为计算机图形技术的终极目标 推出NVIDIA DRIVE constellation，这是一款模拟系统，可在VR种模拟自动驾驶汽车安全行驶数十亿英里 推出NVIDIA Jetson AGX Xavier,支持轻松创建和部署用于制造、配送、零售、智慧城市等领域的AI机器人应用程序 NVIDIA 推出RAPIDS，这是一个开源GPU加

21、速平台，可加速数据科学和机器学习发展2019 推出NVIDIA Studio,这个平台可以大幅提升全球4000万在线和工作室创意工作的性能和可靠性 NVIDIA DRIVE AGX Orin 是一款适用于自动驾驶汽车和机器人的高度先进的软件定义平台 推出NVIDIA参考设计平台，帮助公司为日益增多的HPC应用程序快速构建基于GPU加速Arm的服务器 NVIDIA Jetson Nano 和 Jetson Xavier NX 加入NVIDIA 适用于嵌入式物联网应用程序的高性能、低功耗处理器系列 丰田和沃尔沃集团使用NVIDIA DRIVE 端到端平台，开发和训练安全的自动驾驶汽车，并部署到全球

22、的交通运输行业 推出NVIDIA EGX边缘计算平台，可将加速AI的强大功能引入企业边缘2020 隆重推出NVIDIA Ampere GPU架构，助力实现一种新的功能强大且灵活的数据中心 收购了高性能互联技术领域的领头羊Mellanox，HPC领域的两家卓越公司合二为一 成为全球市值最高的半导体公司2023 Open AI推出了ChatGPT，成为了历史上用户增速最快的应用，一时间火遍全球；但是其需要超过1万枚英伟达A100 GPU芯片来提供算力支持2940501001502002503002020200019982002200420062008201020122016201420182022

23、2024收盘营业收入2018年推出了Turing GPU架构，计算机图形技术的终极目标2021年11月29日英伟达股价达到高点，333.76美元，主要是因为在2021年的11月比特币达到峰值1999年发明了GPU，走上重塑行业之路图1：英伟达股价和营收数据数据来源：,wind68,41233002040608010012014016018020022024026028030032034005,00010,00015,00020,00025,00030,00035,00040,00045,00050,00055,00060,00065,00070,0002016/1/12020/1/12022/

24、1/12018/1/12015/1/12017/1/12019/1/12021/1/12023/1/1纽交所比特币指数英伟达股价图2：英伟达股价和比特币指数走势Cor(英伟达，比特币指数)=0.8972解决方案AI 和数据科学数据中心和云计算设计和虚拟化边缘计算高性能计算数据分析机器学习深度学习训练深度学习推理对话式AI面向企业IT的加速计算NVIDIA launchPad云计算托管本地虚拟化ML Ops边缘计算网络增强现实和虚拟现实3D协作图像虚拟化工程模拟多显示器渲染直播AI-ON-5G智能视频分析工业机器人边缘部署管理边缘解决方案高性能计算和AI仿真与建模科学可视化自动驾驶汽车Chauf

25、feurConcierge训练高精地图货车运输业ADAS仿真自驾计程车英伟达产品和解决方案分类我将英伟达的股价、营业收入以及比特币指数绘制在了上一页，可以看到在2016年股价开始起飞，而且2021年英伟达股价达到了创纪录的333.67美元，这是因为比特币的价格在2021年的11月达到了创纪录的新高，而市场对于英伟达股价的预期与比特币走势较为密切，因为比特币挖矿需要英伟达的显卡，因而在比特币开始下跌时，英伟达的股价也开始了下跌。从图二中也可以看到，英伟达股价和比特币指数的走势除了红框标注的部分不一样外，其他部分，尤其是红框之后的走势高度一致，我也计算了两只股票的日数据之间的相关系数，为89.72

26、%。显示两者的价格高度相关。英伟达人类未来科技的心脏硬件软件游戏和娱乐笔记本电脑和工作站云和数据中心网络GPU嵌入式系统GeForce 显卡游戏笔记本电脑G-SYNC显示器NVIDIA OVXHGX 平台DRIVE constellation游戏笔记本电脑DGX stationNVIDIA RTX桌面工作站NVIDIA RTX数据科学工作站专业笔记本电脑中的NVIDIA RTXStudio 设计本GeForceNIVIDA RTX/Quadro数据中心Titan RTXJetsonDRIVE AGXClara AGX应用框架应用和工具游戏和娱乐基础架构3D协作-Omniverse汽车-DRIV

27、E云端AI视频流-Maxine数据分析-RAPIDS医疗健康-Clara 高性能计算推荐系统-Merlin机器人-Issac电信-Aerial语音AI-Riva智能视频分析-metropolisNGC目录NVIDIA NGC3D-Omniverse数据中心GPU监控NVIDIA RTX experienceNVIDIA RTX 桌面管理器RTX加速的创意应用程序视频会议NVIDIA 工作台GeForce experienceINVIDIA broadcast APP（Omniverse）MachinimaAI enterprise套件云原生支持集群管理边缘部署管理推理服务IO加速软件虚拟GPU

28、Grace CPUDGX系统EGX 平台DPU以太网InfiniBand我将英伟达目前所涉及到的行业绘制了词云图，如上所示，让大家有个直观的印象，下面的篇幅将主要更加深入地研究英伟达的各种产品、解决方案以及行业等等。我们同样以前面的产品分类进行分析：图3：英伟达行业词云图硬件软件解决方案123硬件-游戏与娱乐显卡笔记本电脑G-SYNC显示器GeForce RTX30系列GeForce RTX20系列配备专用的光线追踪技术和 AI 核心，提供强大的性能和前沿的功能;GeForce RTX16系列NVIDIA Turing 架构,;高帧率游戏体验;GeForce RTX30 系列笔记本电脑NVID

29、IA 第二代 RTX 架构 Ampere；尤为逼真的光线追踪效果和NVIDIA DLSS 等先进的 AI 功能；由 AI 赋能的全新 Max-Q 技术，可令轻薄高性能笔记本电脑的表现远超以往；G-SYNC显示器 获得与人眼能感知的亮度相似的真实亮度，以及比传统显示器更宽的色域范围；G-SYNC 可更大限度地降低从输入键盘指令到屏幕上显示相应动作之间的延迟，更好地满足高端玩家的需求；NVIDIA 与 LCD 显示器生产商合作，面向市场推出更宽范围的高刷新率显示器 从 75 Hz 一直到 360 Hz；先进的 G-SYNC ULTIMATE 显示器支持 DCI-P3 色域，能重现级别过渡更平滑、更

30、为真实的颜色；脉冲式显示屏的响应速度超快，物体在移动时如丝般顺滑，如水晶般清晰;玩 3D 游戏时，无论是桌面窗口模式还是全屏模式，G-SYNC 都能提供同样顺畅的无撕裂体验;NVIDIARTX桌面工作站用于NVIDIARTX专业笔记本电脑NVIDIADGXstationNVIDIARTX数据科学工作站Studio 设计本这是一种桌面级显卡，即台式工作站显卡，也就是用于台式机的显卡。NVIDIA RTX 专业桌面产品是数百万创意和技术专业人士的首选。借助世界上可视化领域功能超强的 GPU 获得非凡的桌面体验，此 GPU 具有大容量内存、先进的企业特性、经过优化的驱动以及逾 100 个专业应用认证

31、NVIDIA RTX专业笔记本电脑 GPU 集速度、便携、大容量显存、企业级可靠性和新的 RTX 技术于一身，采用实时光线追踪、高级图形和加速 AI 技术，能够随时随地处理要求十分严苛的创意、设计和工程任务NVIDIA DGX station A100：适用于数据科学团队的人工智能超级运算；服务器级 AI 系统，但无需数据中心的电力和冷却系统；专为在公司办公室、实验室、研究机构甚至在家中工作的敏捷数据科学团队设计，不需要复杂的安装或大量 IT 投资；使用经 GPU 全面优化的软件堆栈和高达 320 GB 的 GPU 内存来训练大型模型，响应更迅速硬件采用更为先进的GPU（NVIDIA RTX

32、和NVIDIA Quadro RTX 专业级GPU）；软件采用 NVIDIA CUDA-X AI 打造且经过测试和优化的综合性堆栈。此堆栈采用RAPIDS 数据处理和机器学习库、NVIDIA 优化XGBoost、TensorFlow、PyTorch 及其他领先的数据科学软件，可为企业提供加速工作流程，以便提高数据准备、模型训练和数据可视化的速度NVIDIA Studio 设计本和台式电脑专为加速创作而打造，具有色彩绚丽的显示器以及高速的内存和存储；通过Dynamic Boost 2.0 或控制声音的 Whisper Mode 2.0 等高级 NVIDIA 功能，AI 应用加速、DLSS 2.0

33、 高速渲染以及 NVIDIA Omniverse 和 NVIDIA Broadcast 等专属应用相结合，以提供更高性能硬件-笔记本电脑和工作站硬件-云和数据中心NVIDIA Grace CPUNVIDIADGX系统NVIDIAEGX平台NVIDIA OVXNVIDIAHGX平台专为解决全球最富挑战的计算难题：分为两款产品NVIDIA Grace Hopper 超级芯片NVIDIA Grace CPU 超级芯片NVIDIA Grace Hopper 超级芯片将Grace CPU 与Hopper GPU 相结合，专为解决巨型 AI 和 HPC 挑战；NVIDIA Grace CPU 超级芯片通过

34、 NVLink-C2C 技术带来 144 个 Arm v9 核心以及 1 TB/s 内存带宽；NVIDIA DGX 系统针对企业 AI 开发和规模提供出色的解、方案。英伟达的AI系统产品组合：NVIDIA DGX Station A100（人工智能工作组设备）、NVIDIA DGX A100（AI训练、推理和分析）、NVIDIA DGX H100（完善的AI平台）NVIDIA EGX是一个加速计算平台，它无需将数据传到云端或数据中心，在数据产生的地方就能够进行实时感知、理解以及处理；而以往只能在云数据中心的强大机器上处理，这意味着需要传递大量的数据，会造成时延专为满足 Omniverse 数字

35、孪生的需求而打造：数字孪生彻底改变了企业设计、测试和优化复杂的系统和流程的方式，这需要多个自主系统在同一时空中进行交互。NVIDIA OVX 专用于为通过数据中心进行大规模工业数字孪生提供技术支持，以实时创建和运行非常复杂的模型和逼真的仿真环境。功能强大的端到端AI超级计算平台：专为模拟仿真、数据分析和 AI 的融合而构建DRIVEconstellation自动驾驶需要在各种情况下进行大规模开发和测试才能部署，但是如果在现实世界里测试和模拟成本会非常高，因此，需要一个虚拟的仿真模拟平台，drive constellation正是这样一个平台硬件-网络DPU以太网InfiniBandNVIDIA

36、 BlueField 数据处理器:通过对各种高级网络、存储和安全业务进行卸载、加速和隔离，BlueField DPU 可为云、数据中心或边缘计算等环境中的各种工作负载提供安全加速的基础设施。BlueField DPU 将强大的计算能力、完整的片上基础设施可编程性及高性能网络相结合，鼎力支撑要求严苛的工作负载。再强大的算力也需要稳定可靠的网络支持，以太网产品包括：NVIDIA BlueField数据处理器(DPU)：BlueField 将业界出色的 NVIDIA ConnectX 网卡与 Arm 核心阵列相结合，可提供具有数据中心基础架构级芯片(DOCA)可编程性的专用硬件加速引擎。Connec

37、tX 智能网卡：业界出色的 ConnectX 系列智能网卡可提供非常广泛、先进的硬件加速引擎。可以借助智能网卡在数据中心内实现快速、高效的以太网NVIDIA Spectrum以太网交换机：Spectrum 交换机可为 AI、云和企业提供优越的性能（高达 400GbE）和规模，并有多种网络操作系统可供选择，包括 NVIDIA Cumulus Linux、SONiC、Onyx 和 DENT/SwitchDev。NVIDIA LinkX线缆和收发器：旨在充分提高高性能计算网络的性能，满足在以太网元素之间建立高带宽、低延迟和高度可靠连接的要求。InfiniBand 网卡：InfiniBand 网卡(H

38、CA)可提供超低延迟、超高吞吐量和创新的NVIDIA 网络计算引擎。DPU：NVIDIA BlueField DPU 集强大的计算能力、高速网络和广泛的可编程性于一体，能为要求严苛的工作负载提供软件定义、硬件加速的解决方案。InfiniBand 交换机：InfiniBand 交换机系统提供超高的性能和端口密度。路由器和网关系统：通过使用 InfiniBand 路由器、InfiniBand 长距离连接(NVIDIA MetroX-2)和 InfiniBand to Ethernet 网关系统(NVIDIA Skyway)，InfiniBand 系统能够提供超强可扩展性和子网隔离能力。LinkX

39、InfiniBand 线缆和收发器：NVIDIA LinkX 线缆和收发器旨在更大限度地提高 HPC 网络的性能，满足这类网络在 InfiniBand 元素之间建立高带宽、低延迟和高度可靠连接的要求。硬件-GPUNVIDIA RTX/Quadro全球出色的专业视觉平台NVIDIA RTX 和 NVIDIA Quadro 专业解决方案助力设计师、艺术家、科学家和研究人员以更快的速度探索他们的大胆想法。在过去 20 年里，NVIDIA 开发了一个完整的生态系统，为专业人士提供完成最佳作品所需的一切，包括强大的硬件、高级软件和工具、跨行业平台以及庞大的第三方应用程序网络。从桌面到云端的 NVIDIA

40、 RTX 和 Quadro 解决方案专业笔记本电脑NVIDIA RTX 和NVIDIA Quadro RTX GPU 可在功能强大、轻薄的外形中提供一流的性能桌面版工作站NVIDIA Quadro 和新的基于 NVIDIA RTX Ampere 的专业 GPU 为新一代桌面工作站带来了实时光线追踪、AI 和高级图形的新技术适用于专业可视化的EGX平台将基于 NVIDIA Ampere 架构的GPU 与 NVIDIA Mellanox 智能网卡和NVIDIA 虚拟 GPU 软件相结合，借助支持多个工作负载的解决方案扩展数据中心基础架构NVIDIA RTX 虚拟工作站(vWS)软件可在任何地方使用

41、任何设备加速要求非常苛刻的应用程序，同时确保NVIDIA RTX 和NVIDIA Quadro 解决方案的可靠性能。虚拟工作空间云专业解决方案嵌入式解决方案NVIDIA RTX 虚拟工作站可从 NVIDIA 云服务提供商合作伙伴处访问，在数分钟内即可启动 GPU 加速虚拟工作站，只在需要时为所需买单从平板电脑到迷你工作站，可获得全尺寸工作站的强大功能和性能，以及由 NVIDIA Quadro GPU 提供支持的专用解决方案中的应用程序兼容性搭载 NVIDIA Quadro 的嵌入式解决方案可供想要设计可提供高级图形、计算、深度学习和 AI 功能的自定义解决方案的系统集成商使用硬件-GPUNVI

42、DIA RTX/Quadro推动各行业的创新建筑、工程以及施工世界各地的 AECO（建筑、工程、施工和运营）公司在合作开展建筑和基础设施设计时，依靠 NVIDIA 先进的视觉计算技术来加快工作流程。建筑师、工程师和设计师使用 NVIDIA RTX助力的工作站支持实时光线追踪、虚拟现实、工程模拟和采用 AI 技术的应用。NVIDIA RTX虚拟工作站(vWS)软件为远程处理大型复杂 BIM 模型的设计团队提供桌面级图形性能。利用面向 AEC 的NVIDIA Omniverse，项目团队可以改变概念设计流程。制造和产品开发改进产品开发，推动制造业发展NVIDIA RTX 虚拟计算平台可通过装有 N

43、VIDIA 虚拟 GPU(vGPU)软件的物理或虚拟工作站进行访问，使得当今领先的设计和工程团队能够利用逼真的可视化、实时模拟、AI 和增材制造等功能，在竞争中保持领先地位，以远超以往的速度将令人惊叹的新产品推向市场。媒体和娱乐通过虚拟制作、渲染、人工智能来加速影视制作流程。虚拟制作：通过使用 NVIDIA 认证系统、NVIDIA 网络解决方案和NVIDIA Omniverse Enterprise 平台，将虚拟制作集直接连接到艺术家，实时创建、迭代和协作。渲染：NVIDIA RTX 具有专门用于光线追踪的 RT Core 和用于 AI 降噪的Tensor Core、超级采样等多种功能，能够实

44、时打造精美、照明精确的渲染。人工智能：使用 AI 助手来减少重复性任务并启用新的创意功能。能源从数据中提取价值：利用 NVIDIA AI 工具，将常规上游业务、管道和炼油厂传感器以及维护流程中的大量数据转变为实际可行的深入见解强力支持计算：无论是在数据中心本地还是在云中，都可借助高性能计算加速地球物理和工程应用程序保护健康和环境：确保遵守适当的个人防护装备(PPE)协议，并使用AI 技术观察设备、预测和检测故障，从而识别安全隐患，拯救生命AI 和数据科学AI 正在推动全球各行各业的变革。随着公司日益依靠数据来推动运营，对 AI 技术的需求也在不断增长。从语音识别和推荐系统到医疗成像和改进的供应

45、链管理，AI 技术能为企业提供其团队完成毕生工作所需的计算能力、工具和算法。医疗健康AI 正在医疗健康领域创造新的可能性。计算生物学的进步正在加速药物研发的每个阶段，新一代软件定义的医疗设备支持实时感知，智慧医院正在改善临床体验，并且加速计算正在解锁人类基因组以实现更精准的医疗。零售领先的零售商正利用 AI 来减少损耗、改善预测、实现仓库物流自动化、决定店内促销活动和实时定价、为客户提供个性化服务和推荐，以及在实体店和网店提供更出色的购物体验电信通过针对高带宽和低延迟进行优化的 5G 网络提供加速服务，例如借助 NVIDIA CloudXR 和 AI 推理为更智能的城市提供增强现实和虚拟现实金

46、融服务利用AI加速金融服务：大型数据集、永久性市场波动、远程办公。智能技术可以攻克现代金融服务业所面临的关键挑战。借助 NVIDIA 的 AI 技术（包括深度学习、机器学习和自然语言处理 NLP），金融机构可以加强风险管理、改善数据支持的决策和安全性，并提升客户体验。硬件-GPU数据中心NVIDIA Hopper 架构英伟达在2022年3月发布了NVIDIA Hopper 架构，主要用于数据中心。Hopper 采用先进的台积电 4N 工艺制造，拥有超过 800 亿个晶体管，采用五项突破性创新技术为 NVIDIA H100 Tensor Core GPU 提供动力支持。与上一代 NVIDIA M

47、egatron 530B 聊天机器人的 AI 推理速度相比，实现了令人难以置信的30 倍提速，是世界上最大的生成语言模型。Transformer引擎在当前的计算平台上一般大型AI模型可能需要数月来训练，这对于企业而言太慢了；而 Transformer引擎是全新Hopper架构的一部分，将显著提升 AI 性能和功能，并助力在几天或几小时内训练大型模型NVLinkSwitch 系统AI 和高性能计算(HPC)（包括新兴的万亿参数模型）领域的计算需求不断增长，在这一趋势的推动下，对于能够在每个 GPU 之间实现无缝高速通信的多节点、多 GPU 系统的需求也在与日俱增；NVLink 是一种 GPU 之

48、间的直接互连，可扩展服务器内的多GPU 输入/输出(IO)。NVSwitch 可连接多个 NVLink，在单节点内和节点间实现以 NVLink 能够达到的最高速度进行多对多GPU 通信NVIDIA机密计算虽然数据在存储中和在网络传输时处于加密状态，但在数据处理期间并不受保护。NVIDIA 机密计算通过保护使用中的数据和应用来弥合这一差距。NVIDIA Hopper 架构引入了具有机密计算功能的加速计算平台第二代 MIG若不使用 MIG，则同一 GPU 上运行的不同工作（例如不同的 AI 推理请求）会争用相同的资源（例如显存带宽）。显存带宽更大的工作会占用其他工作的资源，导致多项工作无法达成延迟

49、目标。借助 MIG，工作可同时在不同的实例上运行，每个实例都有专用的计算、显存和显存带宽资源，从而实现可预测的性能，同时符合服务质量并尽可能提升 GPU 利用率DPX 指令动态编程是一种算法技术，通过将复杂递归问题分解为更简单的子问题来解决。通过存储子问题的结果，之后也不必重新计算它们，从而减少了指数级问题解决的时间和复杂性。Hopper 架构引入了 DPX 指令，与 CPU 相比将动态编程算法速度提高了 40 倍，与 NVIDIA 前一代 Ampere 架构 GPU 相比，则提高了 7 倍。这大幅加快了疾病诊断、实时路由优化甚至图形分析的速度。硬件-GPUTITAN RTXNVIDIA TI

50、TAN RTX 是专为研究人员、开发者和创作者度身设计，并由 Turing 架构提供动力支持。TITAN RTX 可以将诸如 ResNet-50 和 GNMT 之类的高级模型训练速度比Titan XP 快 4 倍。RAPIDS 训练模型的速度比 CPU 快 3 倍。TITAN RTX 内置多精度 Turing Tensor 内核，可提供 FP32，FP16，INT8 和 INT4 的突破性性能，从而可以更快地训练和推理神经网络。TITAN RTX 配备了前一代TITAN GPU 和 NVIDIA NVLink 的两倍的存储容量，使研究人员和数据科学家能够在 GPU 内存上进行比以往更大的神经网