
发布日期:2024-06-19 00:53 点击次数:172
快科技3月19日音书,在NVIDIA年度蛊惑者大会上,向大师推出最强AI芯片GB300。
GB300基于NVIDIA Blackwell Ultra架构,升迁了检会和测试时推广推理身手,即通过在推理经由中加多盘算量来升迁准确率的技巧,以匡助企业加快AI推理、代理式AI及物理AI等应用的蛊惑与部署。
该架构包括NVIDIA GB300 NVL72机架级持续有规划和NVIDIA HGX B300 NVL16系统,其中GB300 NVL72的AI性能比GB200 NVL72卓著1.5倍,使得缔造AI工场的收入契机与基于Hopper构建的系统比拟加多了50倍。
GB300 NVL72每个节点配备两颗升级版的Blackwell GPU、一颗Grace CPU,搭配多达288GB HBM3e高带宽内存,Dense FP4性能高达15PFlops(每秒1.5亿亿次)。
整台工作器一共72个节点,也即是144颗GPU、72颗CPU、20TB HBM3e、40TB DDR5内存,比上代加多50%,CX8互连带宽14.4TB/s,ag百家乐积分有什么用加多100%。
而HGX B300 NVL16比拟Hopper代家具,LLM推理速率提速了11倍,盘算性能升迁了7倍,内存容量扩大了4倍,可为最复杂的责任负载(如AI推理)提供败坏性性能。
不仅如斯,Blackwell Ultra平台终点适用于以下应用:
代理式AI,运用复杂推理和迭代筹商自把握理复杂的多按序问题,AI智能体系统超越了简便的辅导践诺,好像推理、筹商并给与活动以杀青特定观念。
物理AI,使企业好像及时生成合成的、具有高度委果感的视频,用于大鸿沟检会机器东说念主和自动驾驶汽车等应用。
NVIDIA暗意,联念念、戴尔和超微等合营伙伴瞻望将从2025年下半年运转推出基于Blackwell Ultra的各种工作器。