Neue Daten zeigen, dass NVIDIA Blackwell Ultra bis zu 50-fache Leistung und 35-fach niedrigere Kosten für agentische KI bietet.
Von Gemini AI generiertes Bild
NVIDIAs Blackwell-Plattform gewinnt zunehmend an Bedeutung bei führenden Anbietern von Inferenzlösungen, darunter Baseten, DeepInfra, Fireworks AI und Together AI. Diese Unternehmen berichten von einer Kostenreduktion pro Token um bis zu 90 Prozent, was die Effizienz bei der Bereitstellung von KI-Modellen erheblich steigert. Diese Entwicklung könnte die Betriebskosten für Unternehmen, die auf KI-Inferenz angewiesen sind, deutlich senken.
NVIDIA Blackwell Ultra Plattform erzielt signifikante Leistungssteigerungen für agentische KI
Die Blackwell Ultra Plattform von NVIDIA bietet Leistungsverbesserungen von bis zu 50-fach und senkt die Betriebskosten um bis zu 35-fach für agentische KI-Anwendungen. Dieser Fortschritt hat das Interesse von Branchenführern im Bereich der KI-Inferenz geweckt, darunter Baseten, DeepInfra, Fireworks AI und Together AI, die die Plattform übernommen haben, um ihre Fähigkeiten zu verbessern.
Der CEO von Baseten bemerkte, dass der Übergang zu Blackwell Ultra es ihren Kunden ermöglicht hat, schnellere Inferenzzeiten zu erreichen, die entscheidend für Echtzeitanwendungen in der Verarbeitung natürlicher Sprache sind. DeepInfra berichtete von reduzierter Latenz und höherem Durchsatz, die für die Wettbewerbsfähigkeit im sich schnell entwickelnden KI-Markt unerlässlich sind.
Fireworks AI und Together AI hoben hervor, dass die geringeren Kosten, die mit Blackwell Ultra verbunden sind, es ihnen ermöglicht haben, neue Marktchancen zu erkunden. Die Fähigkeit, leistungsstarke KI-Lösungen zu reduzierten Kosten anzubieten, wird voraussichtlich die Einführung von KI-Technologien in verschiedenen Sektoren beschleunigen.
Verwandte Themen:
📰 Originalquelle: https://blogs.nvidia.com/blog/data-blackwell-ultra-performance-lower-cost-agentic-ai/
Alle Rechte und Urheberrechte liegen beim ursprünglichen Herausgeber.