De nouvelles données montrent que le NVIDIA Blackwell Ultra offre jusqu'à 50 fois de meilleures performances et 35 fois des coûts inférieurs pour l'IA agentique.
Image générée par Gemini AI
La plateforme Blackwell de NVIDIA suscite un vif intérêt auprès des principaux fournisseurs d'inférence, tels que Baseten, DeepInfra, Fireworks AI et Together AI. Ces entreprises constatent une réduction des coûts par jeton pouvant atteindre dix fois, ce qui améliore l'efficacité du déploiement des modèles d'IA. Ce changement pourrait considérablement diminuer les dépenses opérationnelles des entreprises s'appuyant sur l'inférence AI.
La plateforme NVIDIA Blackwell Ultra réalise des gains de performance significatifs pour l'IA agentique
La plateforme Blackwell Ultra de NVIDIA offre des améliorations de performance allant jusqu'à 50 fois tout en réduisant les coûts opérationnels jusqu'à 35 fois pour les applications d'IA agentique. Cette avancée a attiré l'attention des leaders du secteur de l'inférence IA, notamment Baseten, DeepInfra, Fireworks AI et Together AI, qui ont adopté la plateforme pour améliorer leurs capacités.
Le PDG de Baseten a souligné que la transition vers Blackwell Ultra a permis à leurs clients d'atteindre des temps d'inférence plus rapides, ce qui est crucial pour les applications en temps réel en traitement du langage naturel. DeepInfra a rapporté une latence réduite et un débit plus élevé, essentiels pour maintenir la compétitivité dans le paysage IA en rapide évolution.
Fireworks AI et Together AI ont mis en avant que les coûts réduits associés à Blackwell Ultra leur ont permis d'explorer de nouvelles opportunités de marché. La capacité de fournir des solutions IA haute performance à des coûts réduits devrait accélérer l'adoption des technologies IA dans divers secteurs.
Sujets connexes :
📰 Source originale : https://blogs.nvidia.com/blog/data-blackwell-ultra-performance-lower-cost-agentic-ai/
Tous les droits et crédits appartiennent à l'éditeur original.