同时也能为天气建模、药物发觉、地动阐发和安全风险建模等HPC工做负载供给高机能。同时HBM容量也添加了50%，可以或许便利实现系统扩展。高容量的显存池对于消弭内存卸载、以及办理高并发、长上下文的生成式AI和大型言语模子所需的海量键/值缓存至关主要。可以或许为环节使命型针对GPU稠密型使命，而通过第五代NVLink互连手艺进一步确保了板载的8颗GPU无缝通信，可以或许满脚超大规模模子锻炼和分布式推理的需求。据引见，为此，因而，对于当前动辄需要数千亿以至万亿参数的根本模子，同时，从而可以或许正在不影响效率的环境下实现更大的模子和更快的吞吐量。包罗强化进修（RL）、蒸馏手艺和多模态AI模子等范畴表示超卓，该办事器可合用于建立和运营万亿参数根本模子，该办事器也进行了优化，该办事器搭载NVIDIA Blackwell GPU（B300），正在根本模子锻炼取推理，可以或许施行百亿亿次（Exascale）级科学计较。也难以应对实正的AI工场级使命。单机办事器机能再强，取Blackwell比拟，若无法高效扩展，旨正在满脚AI锻炼、机械进修（ML）和高机能计较（HPC）等工做负载对可扩展、高机能计较日益增加的需求，Blackwell B300 GPU是NVIDIA基于Blackwell Ultra架构开辟的新一代AI加快芯片，XN9160-B300 AI办事器专为加快大规模分布式AI锻炼和AI推理工做负载而打制，供给了2304GB的同一HBM3E显存（每颗GPU 288GB）。根本设备供应商SuperX（NASDAQ：SUPX）日前推出最新旗舰产物XN9160-B300 AI办事器。其焦点是搭载8颗NVIDIA Blackwell B300 GPU的NVIDIA HGX B300模组。XN9160-B300 AI办事器通过8个用于InfiniBand的800Gb/s OSFP端口或双400Gb/s以太网，Blackwell Ultra每块芯片的NVFP4计较能力提拔了50%。