In der schnelllebigen Welt der Künstlichen Intelligenz (KI) sind leistungsfähige Grafikkartenprozessoren (GPUs) unverzichtbar geworden. Sie bilden das Rückgrat für das Training moderner KI-Modelle und zeichnen sich durch enorme Rechenleistung aus. Allerdings stellen die Mietkosten für GPUs insbesondere kleinere Unternehmen vor eine enorme Herausforderung. Eine oftmals fehlende Preisgestaltung und mangelnde Transparenz führen zu Unsicherheiten, die nicht nur die Unternehmensplanung erschweren, sondern auch Investitionen behindern. Vor diesem Hintergrund bringt ein neuer Preisindex für die Mietkosten von GPUs frischen Wind in die Branche und könnte einen Wendepunkt markieren.
Silicon Data hat mit dem SDH100RT einen solchen Index entwickelt, der auf der Nvidia H100 basiert – der aktuell meistgenutzten GPU für KI-Training. Dieser Index verspricht eine präzise, tägliche Übersicht der durchschnittlichen Mietpreise, basierend auf Millionen von Datenpunkten weltweit, und dürfte den Markt durch mehr Transparenz nachhaltiger gestalten. Die steigende Relevanz und Nachfrage nach GPUs in der KI-Forschung und -Entwicklung hat zu erheblichen Preisfluktuationen geführt. Insbesondere kleine und mittelständische Unternehmen, sogenannte Startups, stehen vor der Schwierigkeit, ihre Kostenseite realistisch abzuschätzen und daraus stabile Geschäftsmodelle zu entwickeln. Die mangelnde Vorhersehbarkeit der GPU-Kosten wirkt sich direkt auf die Profitabilität aus und erschwert zudem den Zugang zu Finanzierungsmöglichkeiten.
Banken und Investoren neigen dazu, Projekte mit unsicheren Kostenrisiken als zu risikobehaftet einzustufen und zögern daher bei der Vergabe von Krediten oder Kapital. Hier setzt die innovative Lösung von Silicon Data an. Die Gründerin Carmen Li, ehemals zuständig für globale Datenintegration bei Bloomberg, erkannte das Problem aus erster Hand und etablierte mit SDH100RT den ersten Preisindex für GPU-Mietkosten. Dieser Index sammelt täglich Millionen von Daten aus diversen Quellen weltweit und berechnet den durchschnittlichen Spotpreis für die Miete einer Nvidia H100 GPU pro Stunde. Spotpreise spiegeln den aktuellen Marktwert eines Rohstoffs wider und ermöglichen Unternehmen so eine Echtzeit-Preisorientierung.
Die Betonung auf die Nvidia H100 ist nicht zufällig: Sie ist die Schlüsselkomponente für das Training der zukunftsträchtigen KI-Modelle und maßgeblich für Innovationen in der Branche. Doch die Bedeutung dieses Preisindexes geht weit über die reine Preisübersicht hinaus. Ermöglicht er doch eine präzisere Kostenplanung, was wiederum zu einer verbesserten Geschäftsplanung und Kalkulation führt. KI-Unternehmen können dadurch ihre Preisgestaltung für Endprodukte optimieren und profitabler arbeiten. Anleger und Finanzinstitute gewinnen durch den Index eine zuverlässige Datengrundlage, um Risikoprofile von KI-Projekten besser einzuschätzen und entsprechende Finanzinstrumente zu entwickeln.
Die Entstehung von Derivaten, etwa Futures für GPU-Stunden, wird durch stabilere Preisinformationen erst möglich – analog zu etablierten Rohstoffmärkten wie Energie oder Metall. Darüber hinaus offenbart der Index auch regionale und technologische Preisunterschiede. Beispielsweise zeigen Daten, dass die Mietpreise für Nvidia H100 GPUs an der US-Ostküste günstiger sind als an der Westküste, was auf unterschiedliche Versorgungs- und Nachfrageverhältnisse hindeutet. Solche Erkenntnisse können Einfluss auf die Wahl des Rechenzentrumsstandortes haben und zu effizienteren Entscheidungen im Betriebsmanagement beitragen. Auch Innovationsschübe wie die Eigenentwicklung von Chipsätze durch Großanbieter wie Amazon Web Services (AWS) wirken sich spürbar auf die Kostenstruktur aus.
AWS beispielsweise hat mit Trainium2 einen Chip auf den Markt gebracht, der bei erheblich niedrigeren Kosten pro Stunde etwa die Hälfte des Preises einer Nvidia H100 erreicht. Somit bekommen KI-Anbieter zusätzliche Wahlmöglichkeiten, je nach Anforderung und Budget. Trotz der vielfältigen Einflussfaktoren auf die tatsächlichen Leistungs- und Kostenprofile einer GPU, beispielsweise durch die verwendete CPU oder internen Verbindungsarchitekturen wie PCIe oder Nvidia NVLink, normalisiert der SDH100RT-Index diese Unterschiede durch ein ausgeklügeltes Gewichtungsverfahren. So entsteht ein globaler repräsentativer Referenzwert, der als Benchmark für weitere Marktanalysen und Geschäftsentscheidungen dient. Die Idee von GPUs als standardisierte Handelsware erhält damit neuen Anschub – auch NVIDIA-CEO Jensen Huang sprach kürzlich von Datenzentren als „KI-Fabriken“, deren Output messbar gemacht werden müsste, beispielsweise in Token pro Sekunde.
Die Einführung dieses GPU-Preisindexes könnte daher entscheidend dazu beitragen, die KI-Industrie wettbewerbsfähiger und zugänglicher zu machen. Etablierte Unternehmen könnten ihre Kosten optimieren und Innovationen beschleunigen, während kleinere Firmen durch verlässliche Preisinformationen bessere Wachstumschancen erhalten. Zugleich eröffnet der Index die Möglichkeit, Zugang zu günstigeren Finanzierungslösungen zu schaffen, da Geldgeber besser kalkulieren können. Dies dürfte mittelfristig für eine größere Vielfalt auf dem KI-Markt sorgen und das Wachstum ganzer Ökosysteme fördern. Ein weiterer spannender Aspekt zeigt sich im Vergleich unterschiedlicher Hardware-Ökosysteme.
Während Geräte mit Intel-CPUs bei Nvidia A100 Systemen einen höheren Mietpreis erzielen, sind AMD-Systeme in bestimmten Konfigurationen wie mit NVLink ebenfalls teilweise auch teurer. Solche Detailkenntnisse könnten die Hardware-Auswahl und Investitionsentscheidungen in Rechenzentren und bei Cloud-Anbietern lenken. Ebenso könnten diese Beobachtungen Forschung und Entwicklung bei der Optimierung von KI-Hardware vorantreiben. Natürlich ist es nicht trivial, den Preis für AI-Computing auf einen einzigen Indexwert zu reduzieren. Regionale Einschränkungen, rechtliche Vorgaben wie Datenlokalisierung, unterschiedliche Softwarestacks und Hardwarekonfigurationen beeinflussen die tatsächliche Nutzererfahrung und Wirtschaftlichkeit immens.