Nuevos datos muestran que NVIDIA Blackwell Ultra ofrece hasta 50 veces mejor rendimiento y 35 veces menores costos para la inteligencia artificial agentiva.
Imagen generada por Gemini AI
La plataforma Blackwell de NVIDIA está ganando terreno entre importantes proveedores de inferencia, como Baseten, DeepInfra, Fireworks AI y Together AI. Estas empresas informan una reducción en el costo por token de hasta 10 veces, lo que mejora la eficiencia en el despliegue de modelos de IA. Este cambio podría reducir significativamente los gastos operativos para las empresas que dependen de la inferencia en IA.
La Plataforma Blackwell Ultra de NVIDIA Logra Aumentos de Rendimiento Significativos para la IA Agente
La plataforma Blackwell Ultra de NVIDIA ofrece mejoras de rendimiento de hasta 50 veces, mientras reduce los costos operativos hasta en 35 veces para aplicaciones de IA agente. Este avance ha llamado la atención de líderes de la industria en inferencia de IA, incluidos Baseten, DeepInfra, Fireworks AI y Together AI, quienes han adoptado la plataforma para mejorar sus capacidades.
El CEO de Baseten destacó que la transición a Blackwell Ultra ha permitido a sus clientes lograr tiempos de inferencia más rápidos, lo cual es crítico para aplicaciones en tiempo real en procesamiento de lenguaje natural. DeepInfra informó sobre una menor latencia y un mayor rendimiento, esenciales para mantener la competitividad en el rápidamente evolutivo panorama de la IA.
Fireworks AI y Together AI resaltaron que los costos más bajos asociados con Blackwell Ultra les han permitido explorar nuevas oportunidades de mercado. La capacidad de ofrecer soluciones de IA de alto rendimiento a costos reducidos se espera que acelere la adopción de tecnologías de IA en diversos sectores.
Temas relacionados:
📰 Fuente original: https://blogs.nvidia.com/blog/data-blackwell-ultra-performance-lower-cost-agentic-ai/
Todos los derechos y créditos pertenecen al editor original.