深圳国际工业制造技术及设备展览会

2025.3.26-3.29 深圳国际会展中心(宝安)

黄仁勋GTC演讲:最强AI芯片、NIM微服务等

2024-03-19 13:24:37 来自: ITES深圳工业展 431

【导语】 英伟达GTC 2024会议中,创始人兼CEO黄仁勋的主题演讲表示:搭载B200芯片的GB200 Grace Blackwell超级芯片系统登场、公司将推出NIM微服务组装AI模型和宣布GR00T的项目......

摘要:

①搭载B200芯片的GB200 Grace Blackwell超级芯片系统登场,算力倍增、能耗倍减;

②对于NIM微服务,黄仁勋表示,以后公司将不再需要编写软件,而是组装AI模型;

③在具身智能方向,英伟达也公布了一系列新的进展。


财联社3月19日讯(编辑 史正丞)北京时间周二清晨,英伟达GTC 2024会议中最重要的一项日程——创始人兼CEO黄仁勋的主题演讲不久前刚刚结束。如同市场预期的那样,全球资本市场刚刚见到了新的算力芯片/服务器,以及一堆AI软件层面的应用。

 

与过往一样,截至发稿,从黄仁勋开始讲话起,英伟达已经洋洋洒洒发布了40篇新闻稿,本文将着重概述一些今天早晨的重点进展,供投资者参考。

 

更大的GPU——Blackwell架构如期登场

 

虽然事前全市场都知道今天会有一款新旗舰算力GPU登场,但黄仁勋在演讲中并没有把名字讲清楚——仅表示推出了一款更大、更强的Blackwell架构GPU,一度引发媒体的混乱。但从官网的数据来看,今天老黄手里拿的应该是B200芯片(下图左边),官网上也列出Blackwell架构存在B100芯片。英伟达并没有披露售价,仅表示将在年内向合作伙伴发货。

 

B200芯片.png

4NP工艺制造.png


英伟达披露,新的B200芯片拥有2080亿个晶体管,采用台积电定制的4NP工艺制造。值得一提的是,这次的芯片将两个die连接成一个统一的GPU,die之间的通信速度可以达到10TB/秒。不出意外,这款芯片使用是192GB的HBM3E内存。

 

而GB200 Grace Blackwell超级芯片,是由2个B200芯片(4个die)和Grace CPU组合而来。相较于H100,大语言模型性能提升30倍,同时能耗只有25分之一。

 

GB200 Grace Blackwell超级芯片.png


老黄在演讲中举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用GB200 Blackwell GPU,只需要2000张,同样跑90天只消耗四分之一的电力。不只是训练,生成Token的成本也会随之显著降低。

 

老黄演讲1.png


老黄演讲2.png

配合这一套新芯片,英伟达还推出了第五代新NVLink芯片、使用液冷的GB200 NVL72服务器,以及X800系列网络交换机、下一代人工智能超级计算机NVIDIA DGX SuperPOD等一系列产品。

 

NVIDIA DGX SuperPOD.png


开发软件新方式:NIM微服务

 

讲完硬件更新后,黄仁勋也将剩下的时间投入软件生态。除了地球气候数字孪生、医药开发AI外,英伟达也在AI Enterprise 5.0中推出了一系列“微服务”,包括简化企业将AI模型部署到生产环境中的NIM。

 

Enterprise 5.0中推出了一系列“微服务”.png


黄仁勋说到:“以后公司将不再需要编写软件,而是组装AI模型,给它们提出任务,还有工作产品的示例,审查计划和中间结果。

 

英伟达介绍称,NIM微服务通过打包算法、系统和运行优化,并添加行业标准的API,简化了AI模型部署过程。这使得开发人员可以将NIM集成到现有的应用程序和基础设施中,而无需进行大量定制或专业知识。

 

数字孪生支持Vision Pro

 

英伟达也在周一宣布,Omniverse云现在允许开发者将他们的工业场景,从内容创作应用程序发送到英伟达的Graphics Delivery Network(GDN),借此可以将先进的3D体验流式传输到Apple Vision Pro。

 

这种新工作流将苹果Vision Pro的高分辨率显示与英伟达的云渲染相结合,只需设备和互联网连接即可提供空间计算体验。

 

还有许许多多零碎的官宣

 

半导体领域,英伟达宣布,台积电和Synopsys将英伟达计算光刻平台CuLitho投入先进芯片的生产。

 

在电信领域,黄仁勋宣布名为NVIDIA 6G的研究云,这是一个由生成式人工智能和Omniverse技术驱动的平台,旨在推动下一代通信时代的发展。

 

交通运输领域,全球最大电动车公司比亚迪将采用英伟达集中式车载计算平台DRIVE Thor开发下一代电动车。此外,比亚迪同时将使用英伟达基础设施进行自动驾驶模型训练,以及英伟达Isaac来设计/模拟智能工厂机器人。

 

自动驾驶模型训练.png


机器人也是整个演讲的最后一个环节。黄仁勋宣布了多项助力机器人技术开发的软件。其中包括Isaac Perceptor软件开发工具包,涉及多摄像头视觉里程测量、三维重建以及深度感知等。还有Isaac Manipulator——机器人手臂感知、路径规划和运动学控制库。最后他还宣布了一个名为GR00T的项目,这是一个面向人型机器人的通用基础模型,旨在推动公司在机器人技术和具身智能方面的突破。

 

最后,黄仁勋在一对使用英伟达Jetson芯片的迪士尼机器人orange和green陪伴下退场,整场发布会至此落下帷幕。


英伟达Jetson芯片的迪士尼机器人orange和green.png



英伟达GTC大会于3月18日开幕,英伟达CEO黄仁勋发表“见证AI的颠覆时刻”的主题演讲,推出名为BLACKWELL的新GPU,允许实时生成人工智能的构建;并宣布推出下一代人工智能超级计算机。


自OpenAI发布ChatGPT以来,生成式人工智能逐渐确定成为新趋势,算力已经成为AI的刚需,芯片巨头英伟达的算力迭代极其迅速,说明下游云厂商以及企业侧对于生成式AI技术具备强烈需求。中信建投分析指出,随着国内AI应用市场的快速发展,AI训练和推理的算力需求逐步释放,算力短缺仍有望持续一段时间。


据财联社主题库显示,相关上市公司中:


中科曙光主要从事高端计算机、存储、安全、数据中心产品的研发及制造,此外公司还推出一体化算力服务平台,实现各地算力资源互联互通,打破用户调用各类算力资源的地域限制。


同方股份AI服务器主要型号为基于昇腾技术的训练服务器、推理服务器以及基于上述设备打造的人工智能超级计算机解决方案,公司与宁波市共同研制人工智能服务器已运营。



新闻来源:财联社