公开访谈 · 黄仁勋

Arm Tech Unheard:领导力与 AI 工业革命

Read in English →

先看这几个判断

共 8 条重点
  1. 01黄仁勋把 AI 工厂视为新工业革命的起点:计算机从等待人使用的工具,转变为持续处理数据、生产 token 和大规模制造智能的生产设备。 →
  2. 02黄仁勋认为,AI 超级集群时代的计算单元已经扩展到整个数据中心;要理解并构建这种计算机,必须共同设计和运行 GPU、CPU、网络、交换、收发器及跨系统工作负载。 →
  3. 03黄仁勋表示,NVIDIA 已采用一年一代的节奏,并认为通过整套系统协同设计,可以每年在相同能耗和成本下交付约两至三倍性能,从而将 AI 单位成本降至原来的约二分之一至三分之一。 →
其余 5 条重点
  1. 04黄仁勋预计,未来 AI 回答问题时会反复推理,可能使用树搜索、迭代和自我反思,在给出答案前执行上百或上千次推理,以提高答案质量。 →
  2. 05黄仁勋认为,快速系统迭代可以持续,但必须以严格的架构兼容为基础,让已有集群软件在新代际继续运行。 →
  3. 06黄仁勋表示,NVIDIA 的组织应服务于横跨全公司的任务:领导者培养人才、创造成功条件并移除障碍,任务则跨越芯片、系统、网络、软件和算法等边界。 →
  4. 07黄仁勋把 Shield 视为 NVIDIA 学习完整系统开发的实践台阶:先做较小系统,再走向更大的系统,并给公司学习新技能、承受可控失败的空间。 →
  5. 08黄仁勋主张在可行范围内尽量继续使用铜和电互连,尽管最终仍需转向光互连。 →

访谈导读 · 忠实转述

这场访谈中,黄仁勋把 NVIDIA 的组织方式与技术路线联系起来:招聘时更看重过往经历核验和深入问题中的推理,管理上通过公开愿景、战略及挑战,让员工在跨部门任务中自主决策;领导者负责培养人才、移除障碍,清晰且可见的共同目标有助于凝聚团队。他以 Arm 推动 SoC 开发、Shield 作为较小的完整系统练习、Mellanox 网络产品整合为例,说明公司如何从 GPU 算法走向系统开发,再把整个数据中心视作 AI 集群的计算单元。在这一框架下,他主张以年度系统协同设计提高同等能耗和成本下的性能,同时保护跨代软件兼容及 CUDA 装机基础上的软件投入。他还将持续产出 token 的 AI 工厂称为新工业革命的起点。机柜密度提升、液冷、多 GPU 协同和尽量延长电互连使用,是他描述的系统设计方向;他援引的 Grace 每瓦性能对比未给出工作负载和具体对照型号,单柜功率提高也不能单独证明设施总能耗下降。

访谈观点

嘉宾观点 · 忠实转述

正在阅读 8 条重点,保留原观点编号。

观点目录 · 8 条 选择一条,跳转阅读
AI 算力与规模化阅读重点 1

黄仁勋把 AI 工厂视为新工业革命的起点:计算机从等待人使用的工具,转变为持续处理数据、生产 token 和大规模制造智能的生产设备。

他指出 AI 工厂会持续运行,不论用户是否正在直接使用,都在摄入数据、产生 token,并大批量产出他认为有价值的智能。

延伸分析 由 AI 生成

若 AI 服务能够持续产出有实际用途的结果,数据中心可能更接近生产设施;评估其价值时仍需要同时检验利用率、输出质量与真实需求。

后续观察

  • AI 系统利用率
  • 输出质量与持续使用需求
AI 算力与规模化阅读重点 2

黄仁勋认为,AI 超级集群时代的计算单元已经扩展到整个数据中心;要理解并构建这种计算机,必须共同设计和运行 GPU、CPU、网络、交换、收发器及跨系统工作负载。

仅把计算机看作一个节点不足以覆盖集群运行;从硬件互连到启动整个系统、分配工作负载都需要整体掌握。

延伸分析

若集群整体性能取决于多层协同,单一芯片指标可能不足以比较系统价值;系统级吞吐、互连效率和运行稳定性会更有解释力。

后续观察

  • 集群整体吞吐与互连效率
  • 系统部署和运行稳定性
AI 算力与规模化阅读重点 3

黄仁勋表示,NVIDIA 已采用一年一代的节奏,并认为通过整套系统协同设计,可以每年在相同能耗和成本下交付约两至三倍性能,从而将 AI 单位成本降至原来的约二分之一至三分之一。

他称新工艺节点对芯片性能的提升已较有限,因此每套系统设计六到七颗新芯片,结合交换、机架、铜互连和封装等技术重做整个系统。

他的未来判断

他认为这种年度改进若持续五年、六年乃至十年,将显著降低智能的成本。

延伸分析

若系统协同设计能够持续实现其描述的改进,单位任务成本可能下降;实际幅度还需结合具体工作负载、利用率和部署成本验证。

后续观察

  • 同一工作负载的单位成本与能耗
  • 年度系统交付和实际性能
推理与测试时扩展阅读重点 4

黄仁勋预计,未来 AI 回答问题时会反复推理,可能使用树搜索、迭代和自我反思,在给出答案前执行上百或上千次推理,以提高答案质量。

更多推理步骤可能改善答案,但也增加计算需求;因此他希望降低成本,让这类推理维持以往的成本和响应水平。

他的未来判断

未来推理服务可能在输出前执行多轮内部计算;NVIDIA 的目标是在增加推理能力的同时保持成本与响应体验。

延伸分析

若多轮推理带来的质量收益足以抵消额外计算,服务可能扩大使用推理计算;成本、延迟与任务正确率需要共同评估。

后续观察

  • 多轮推理的任务正确率
  • 每次任务的计算成本与延迟
AI 算力与规模化阅读重点 5

黄仁勋认为,快速系统迭代可以持续,但必须以严格的架构兼容为基础,让已有集群软件在新代际继续运行。

他强调软件需要长期维护,并称行业在软件上的投资远大于硬件,因此更新硬件时必须保护既有软件投入。

他的未来判断

他设想不同代际之间的软件保持兼容,使新旧系统都能继续利用软件投入。

延伸分析

若跨代软件兼容能够兑现,客户升级时的软件迁移负担可能降低;仍需验证关键应用的实际兼容性与维护成本。

后续观察

  • 关键应用跨代运行情况
  • 升级所需的软件迁移与维护成本
待分类阅读重点 6

黄仁勋表示,NVIDIA 的组织应服务于横跨全公司的任务:领导者培养人才、创造成功条件并移除障碍,任务则跨越芯片、系统、网络、软件和算法等边界。

全栈计算要求各部分分别开发又共同协作;打通组织边界后,也会有更多人参与批评和改进。

延伸分析

若跨领域任务能够直接组织所需人员,全栈产品的协作可能更顺畅;其成效仍需要用项目交付与问题解决情况判断。

待分类阅读重点 7

黄仁勋把 Shield 视为 NVIDIA 学习完整系统开发的实践台阶:先做较小系统,再走向更大的系统,并给公司学习新技能、承受可控失败的空间。

他称 Shield 是 NVIDIA 首个完整系统,并把 DGX-1 比作一台很大的 Shield;回顾当年开发 Shield 的决定,他说当时的目标是成为系统公司、让系统连接云服务,而如果小系统都做不好,就无法做好更大系统。

延伸分析

若早期项目能够低成本暴露系统开发问题,其价值可能体现在后续能力积累;判断此类项目时可以同时观察学习成果与失败代价。

数据中心与能源阅读重点 8

黄仁勋主张在可行范围内尽量继续使用铜和电互连,尽管最终仍需转向光互连。

他认为电互连具有成本、能效和可靠性优势,并把提高计算密度与延长其适用范围联系起来。

他的未来判断

他预计最终必须采用光互连,但会尽可能延长电互连的使用。

延伸分析

若铜与电互连仍能满足距离和带宽要求,延后光转换可能有成本与能效收益;一旦物理约束超出其能力,系统仍需采用光方案。

后续观察

  • 电互连的可用距离与带宽
  • 电光方案的系统成本和能耗
嘉宾未来判断汇总 · 忠实转述

黄仁勋认为,年度系统迭代可以继续,但前提是维持严格的架构兼容。他称系统协同设计可每年在相同能耗和成本下实现约两至三倍性能;若这种改进持续五年、六年乃至十年,智能成本将显著下降。他预计未来回答可能经过树搜索、迭代或自我反思,甚至上百或上千次推理,同时希望维持以往的成本与响应体验。在基础设施上,他预计机柜功率会超过 200 千瓦;电互连会尽可能延用,但最终仍需转向光互连。

延伸分析汇总

AI 条件式分析:若年度系统性能改进能在实际工作负载中兑现,且软件跨代兼容,AI 任务的单位成本可能下降,既有软件投入也可能更易复用;需要同时核验任务质量、延迟、利用率、迁移成本及系统部署成本。若提高机柜密度能减少完成同等任务所需的设备和空间,并在供电、液冷及互连约束下稳定运行,设施整体效率才可能改善;单柜功率或单项基准测试不足以推断普遍节能。

来源信息与原始链接

收录日期:2026年9月7日。收录时间不代表发言时间。

打开原始来源 ↗

阅读说明

正文观点、理由及未来判断是对嘉宾表达的整理与转述,原话节选保留原语言。“延伸分析”及其汇总由 AI 生成,不代表嘉宾表态,受文中条件及证据范围限制,不构成投资建议。

继续读 黄仁勋

正在读取相关访谈…

查看全部已收录访谈 →