基础架构

“加速一切”,NVIDIA CEO 黄仁勋在 COMPUTEX 开幕前发表主题演讲

NVIDIA 创始人兼首席执行官黄仁勋在 COMPUTEX 大会开幕前发表主题演讲,他表示:“生成式 AI 正在重塑行业,并为创新和增长带来新机遇。”

“今天,我们正处于计算领域重大转变的最前沿,”黄仁勋表示,“人工智能和加速计算的交汇将重新定义未来。”

6500 多名行业领导者、媒体、企业家、游戏玩家、创作者和AI爱好者在台湾大学综合体育馆齐聚一堂,现场聆听黄仁勋的主题演讲。

 

NVIDIA 加速平台已经全面投入生产,不仅通过搭载 NVIDIA RTX 技术的 AI PC和消费级设备为游戏玩家和创作者带来全新体验,还支持企业利用 NVIDIA 全栈计算平台构建和部署的 AI 工厂。

“加速计算是计算行业的未来,”黄仁勋表示,“凭借 NVIDIA 在 AI 和加速计算领域的创新,我们正在创造更多可能,推动新一轮技术进步。”

黄仁勋分享了新半导体技术路线图,该路线图将每年更新。他首次宣布了Rubin 平台,它将配备新 GPU、基于 Arm 的新 CPU — Vera,以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太网交换机的高级网络平台。Rubin 将作为 Blackwell 的下一代平台。

“我们公司的更新节奏是以年为单位。我们的基本理念非常简单:打造数据中心规模,以每年的节奏分步骤实现、并向客户交付产品,在各个领域实现技术突破,”黄仁勋解释道。

NVIDIA 创意团队使用 NVIDIA Inception 初创计划成员提供的 AI 工具来创作 COMPUTEX 主题演讲,该工具基于 NVIDIA NIM 和 NVIDIA 加速计算。本次演讲演示了各种demo,重点介绍了上述创新工具以及 NVIDIA 技术带来的变革性影响。

加速计算实现可持续增长

黄仁勋在演讲开始时表示,NVIDIA 正在降低将数据转化为智能的成本。

他强调:“加速计算能够实现可持续增长。” 他同时介绍了 GPU 和 CPU 组合如何实现高达 100 倍的加速计算,同时功耗仅增加三倍,每瓦性能比单独使用 CPU 提高 25 倍。买的越多,省的越多。” 他强调了这种方法可显著节约成本和能源。

业界携手 NVIDIA 打造 AI 工厂,助推新工业革命

领先的计算机制造商已经纷纷开始采用 NVIDIA GPU 和网络解决方案。永擎电子(ASRock Rack)、华硕(ASUS)、技嘉科技(GIGABYTE)、鸿佰科技(Ingrasys)、英业达(Inventec)、和硕(Pegatron)、云达科技(QCT)、超微(Supermicro)、纬创(Wistron)和纬颖科技(Wiwynn)等企业正在打造基于NVIDIA技术的云、专用系统和边缘AI系统。

NVIDIA MGX™ 模块化参考设计平台加入了对Blackwell产品的支持,包括GB200 NVL2平台,该平台专为大语言模型推理、检索增强生成和数据处理提供卓越的性能而打造。

AMD 和英特尔均支持MGX架构,并首次计划推出基于他们自己CPU主机处理器的模块设计。任何服务器系统制造商都可以使用这些参考设计节省开发时间,并确保设计和性能的一致性。

采用Spectrum-X 的下一代网络平台

为了满足AI对高性能以太网网络平台日益增长的需求,黄仁勋宣布了每年推出新的 Spectrum-X产品的计划。NVIDIA Spectrum-X 是全球首款专为 AI 打造的以太网网络平台,可将网络性能较传统以太网网络平台提升1.6倍。Spectrum-X 能够加快 AI 工作负载的处理、分析和执行速度,进而加快 AI 解决方案的开发和部署速度。

率先采用 Spectrum-X 的 AI 云服务提供商包括 CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta等,他们的 AI 基础设施因此而获得了超强的网络性能。

NVIDIA NIM 让数百万人成为生成式 AI 开发者

现在,全球 2800 万开发者都可以借助 NVIDIA NIM 轻松地创建生成式 AI 应用。NIM 是一种推理微服务,通过以经过优化的容器的形式提供模型,以部署在云、数据中心或工作站上。

NIM 还能帮助企业实现基础设施投资的效果最大化。例如,与未使用 NIM 的情况相比,在 NIM 中运行 Meta Llama 3-8B 所能生成的加速基础设施 AI token 可以提升 3 倍。

Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近200 家技术合作伙伴正将 NIM 集成到他们的平台中,加快生成式 AI 部署到特定领域应用中的速度,例如copilots、代码助手、数字人虚拟形象等。从 Meta Llama 3 开始,在Hugging Face上现已开始提供 NIM。

“今天我们在 Hugging Face上发布了全面优化的 Llama 3,”黄仁勋表示。“您可以在任何云中运行它。下载该容器,并将其存入数据中心,然后就可以托管,并提供给客户使用。”

NVIDIA 利用 GeForce RTX AI PC 令 AI 助手栩栩如生搭载 RTX 技术的 NVIDIA RTX AI PC 将通过 200 多款 RTX AI 笔记本电脑和 500 多款采用 AI 技术的应用和游戏彻底改变消费者的体验。RTX 套件和为NVIDIA ACE 数字人平台最新推出的基于 PC 的 NIM 推理微服务,将进一步提高 AI 的可访问性。另外,NVIDIA 还发布了搭载 RTX 的 AI 助手技术演示G-Assist 项目,展示了针对 PC 游戏和应用的上下文感知辅助功能。

Microsoft 和 NVIDIA 正在一起帮助开发者将新的生成式 AI 功能加入到他们的 Windows 原生和 Web 应用程序中,使开发者能够通过 API 轻松访问由 RTX 加速的 SLM,作为 Windows Copilot Runtime 的一部分实现在设备上运行的 RAG 功能。

NVIDIA 机器人技术获得行业领导者的青睐

NVIDIA 正引领价值 50 万亿美元的工业数字化变革,各行各业都在采用自主运营和数字孪生,通过虚拟模型提高效率并降低成本。NVIDIA 通过其开发者计划提供对 NIM 的访问权限,以促进 AI 创新。

领先的制造商们正在利用 NVIDIA 的技术改造他们的工厂。黄仁勋展示了 Foxconn 如何利用 NVIDIA Omniverse、Isaac 和 Metropolis 创建数字孪生,通过结合视觉 AI 与机器人开发工具来实现增强的机器人设施。

“AI 的新一波浪潮是物理 AI。AI 能够理解物理定律,并与人类并肩作战,”黄仁勋表示,他强调了机器人和人工智能在未来发展中的重要性。

NVIDIA Isaac 平台为开发者构建 AI 机器人提供强大的套件,包括由 AI 模型以及Jetson Orin、Thor 等超级计算机驱动的 AMR、工业机械臂和人形机器人。

“机器人和物理 AI 正在成为现实,而不仅是出现在科幻小说。这真的令人兴奋,”黄仁勋补充道。

全球电子行业领导企业正在将 NVIDIA 自主机器人技术集成到他们的工厂中,利用 Omniverse 中的模拟功能来测试和验证物理世界的新一代 AI。全球 500 多万台预编程机器人也在此行列中。

“机器人将遍布所有工厂。工厂将实现对机器人的统筹,而这些机器人将制造新的机器人产品,”黄仁勋解释道。

黄仁勋强调了 NVIDIA Isaac 在提高工厂和仓库效率方面的作用,比亚迪电子、西门子、泰瑞达、Intrinsic 等全球领先企业都在使用 NVIDIA Isaac 的高级程序库和 AI 模型。

IGX 平台上的 NVIDIA AI Enterprise与凌华科技(ADLINK)、研华科技(Advantech)、ONYX 等合作伙伴共同打造符合严格监管标准的边缘 AI 解决方案,以满足医疗技术等行业的关键需求。

最后,黄仁勋向 NVIDIA 合作伙伴再次表示感谢。

(0)

本文由 计算杂谈 作者:云中子 发表,转载请注明来源!

关键词:
LensNews

热评文章

发表评论