Новые данные показывают, что NVIDIA Blackwell Ultra обеспечивает до 50 раз лучшую производительность и на 35% более низкие затраты для агентного ИИ.
Изображение создано Gemini AI
Платформа Blackwell от NVIDIA набирает популярность среди крупных поставщиков инференса, таких как Baseten, DeepInfra, Fireworks AI и Together AI. Эти компании сообщают о снижении стоимости за токен до 10 раз, что значительно повышает эффективность развертывания ИИ-моделей. Такой сдвиг может существенно сократить операционные расходы для бизнеса, зависящего от инференса ИИ.
Платформа NVIDIA Blackwell Ultra достигает значительных приростов производительности для агентного ИИ
Платформа NVIDIA Blackwell Ultra обеспечивает улучшение производительности до 50 раз при снижении операционных затрат до 35 раз для приложений агентного ИИ. Это достижение привлекло внимание лидеров отрасли в области ИИ-инференса, включая Baseten, DeepInfra, Fireworks AI и Together AI, которые приняли платформу для улучшения своих возможностей.
Генеральный директор Baseten отметил, что переход на Blackwell Ultra позволил их клиентам достичь более быстрых времен инференса, что критически важно для приложений в реальном времени в области обработки естественного языка. DeepInfra сообщила о снижении задержки и увеличении пропускной способности, что необходимо для поддержания конкурентоспособности в быстро развивающемся ландшафте ИИ.
Fireworks AI и Together AI подчеркнули, что более низкие затраты, связанные с Blackwell Ultra, позволили им исследовать новые рыночные возможности. Способность предоставлять высокопроизводительные решения ИИ по сниженным ценам, как ожидается, ускорит внедрение технологий ИИ в различных секторах.
Связанные темы:
📰 Первоисточник: https://blogs.nvidia.com/blog/data-blackwell-ultra-performance-lower-cost-agentic-ai/
Все права и авторство принадлежат первоначальному издателю.