新数据表明，NVIDIA Blackwell Ultra在自主人工智能领域的性能提升可达50倍，同时成本降低35倍
Gemini AI生成的图像
NVIDIA的Blackwell平台正在获得主要推理服务提供商的青睐，包括Baseten、DeepInfra、Fireworks AI和Together AI。这些公司报告称，每个令牌的成本降低了多达10倍，从而提升了AI模型部署的效率。这一变化可能会大幅降低依赖AI推理的企业的运营费用。
NVIDIA Blackwell Ultra 平台为智能 AI 实现显著性能提升
NVIDIA 的 Blackwell Ultra 平台为智能 AI 应用提供了高达 50 倍的性能提升，同时将运营成本降低了多达 35 倍。这一进展吸引了包括 Baseten、DeepInfra、Fireworks AI 和 Together AI 在内的行业领导者的关注，他们纷纷采用该平台以增强自身能力。
Baseten 的首席执行官指出，转向 Blackwell Ultra 使他们的客户能够实现更快的推理时间，这对自然语言处理等实时应用至关重要。DeepInfra 报告称，延迟降低和吞吐量提高对于在快速发展的 AI 领域保持竞争力至关重要。
Fireworks AI 和 Together AI 强调，Blackwell Ultra 降低的成本使他们能够探索新的市场机会。以降低的成本提供高性能 AI 解决方案的能力预计将加速各个行业对 AI 技术的采用。
相关主题：
NVIDIA Blackwell Ultra性能提升成本降低智能代理AI推理服务提供商
📰 原始来源： https://blogs.nvidia.com/blog/data-blackwell-ultra-performance-lower-cost-agentic-ai/
所有权利和署名均属于原出版商。