就在刚才,老黄身着全新皮衣,在CES上大展身手。
他首先发布了自家最新的GPU——RTX 5090。
让我们来详细了解一下其卓越性能:
- 拥有高达920亿个晶体管
- 具备每秒万亿次操作的AI TOPS性能
- 可实现380 RT TFLOPS光线追踪性能,其计算能力以万亿次浮点运算为单位
- 内存带宽达1.8 TB/s,支持快速的数据读取和写入
- 拥有强大的着色器性能,达到125 Shader TFLOPS
其价格也已公布:
- RTX 5090售价为1999美元(折合币约14651元)
- RTX 5080售价为999美元(折合币约7321元)
- 更有多款不同配置以满足不同需求,如RTX 5070 Ti和RTX 5070,价格分别实惠为749美元(约5489元)和549美元(约4023元)
在技术革新方面,NVLink72互联技术也备受瞩目。
其亮点包括:
- 72个Blackwell GPU具备高达1.4 ExaFLOPS TE FP4计算能力
- 拥有庞大的晶体管数量,达到130万亿
- 配备2592个Grace CPU核心
- 拥有72个ConnectX-8网络接口卡
- 存储芯片总数为576个,总容量达14TB,带宽高达1.2PB/s
- 配备18个NVLink交换机,全连接带宽可达惊人的130 TB/s
现场,老黄还手持巨大的样品,如同盾牌般的存在,开始了他的展示。
与此AI超算时代也正在来临。
就在老黄还发布了全球最小的个人AI超级计算机——Project Digits.
其强大之处在于,即使是一款桌面系统也能运行如2000亿参数的大模型。
将两台Project Digits结合使用,可以处理高达4050亿参数的大模型。
据了解,每个Project DIGITS都配备了统一、相干内存高达128GB以及高达4TB的NVMe存储。
这款系统不仅可以在桌面系统上开发或推理大模型,还可以无缝部署到加速云或数据中心基础设施中。
正如老黄在现场所言:“AI将成为每个行业、每个应用的主流。”
每位数据科学家、AI研究人员和学生都能在自己的办公桌上放置如Project DIGITS一样的个人AI超级计算机,让他们参与并塑造人工智能时代。
而Project DIGITS的起售价为3000美元(折合币约21978元),预计今年5月份开始提供。
那么,Project DIGITS是如何做到既小巧又强大的呢?关键就在于它搭载的全新Grace Blackwell超级芯片(GB10).
这款芯片基于Grace Blackwell架构,是一款片上系统(SoC),在FP4精度下可以提供高达千万亿次浮点运算的AI性能。
GB10整合了英伟达Blackwell GPU(拥有最新一代CUDA核心和第五代Tensor Cores),通过NVLink-C2C芯片到芯片互连与高性能NVIDIA Grace CPU(采用Arm架构的20个节能核心)相连接。