Das Ende von Moores Gesetz für KI? Gemini Flash bietet eine Warnung

Die KI-Industrie hat in den letzten Jahren unter ihrer eigenen Version von Moores Gesetz operiert, mit dem unerschütterlichen Glauben, dass die Kosten für Intelligenz jedes Jahr um Größenordnungen sinken würden. Doch in einer überraschenden Wendung hat Google kürzlich diesen Trend durchbrochen, indem es die Preise für sein beliebtes Gemini 2.5 Flash-Modell erheblich erhöht hat. Diese Entwicklung könnte das Ende der Ära der kontinuierlichen Kostensenkungen in der KI-Industrie markieren.

Die Preisstruktur von LLMs verstehen

Von außen betrachtet, scheint die Preisgestaltung für LLMs (Large Language Models) einfach: ein fester Preis pro Million Eingabe- und Ausgabetoken. In Wirklichkeit ist dies jedoch eine bequeme Fiktion – eine gemischte Durchschnittszahl, die dazu dient, eine tief komplexe Kostenstruktur zu vereinfachen. Um zu verstehen, warum die Preise steigen, muss man die tatsächlichen Kostentreiber hinter den Kulissen betrachten.

Die einfachste Formel für die Kosten eines Anbieters lautet:

API-Preis ≈ (Stundenkosten für Hardware / Durchsatz in Tokens pro Stunde) + Marge

Der entscheidende Faktor hier ist der Durchsatz, der nicht eine einzelne Zahl ist, sondern von vier Faktoren abhängt:

1. Hardware: Die Rohleistung der GPU/TPU (z.B. NVIDIA H100 vs. A100).
2. Modell: Die Größe und Architektur des LLM.
3. Inference-Framework: Der Software-Stack, der zum Ausführen des Modells verwendet wird (z.B. vLLM, SGLang, TensorRT-LLM).
4. Workload-Form: Dies ist die kritischste und am meisten missverstandene Variable. Sie bezieht sich auf das Verhältnis von Eingabetokens (Prefill) zu Ausgabetokens (Decode).

Die versteckten, quadratischen Kosten von LLM-Workloads

Die Vorhersage von Tokens erfordert die Berechnung der Aufmerksamkeit zwischen allen Eingabetokens und jedem Ausgabetoken in einer Sequenz, während jedes neue Ausgabetoken generiert wird. Die Anzahl der Berechnungen, die zur Berechnung aller Aufmerksamkeitswerte erforderlich sind, skaliert wie N x N, wobei N die Gesamtzahl der Tokens in der Sequenz ist. Daher sinkt der Durchsatz quadratisch mit zunehmender Sequenzlänge.

Die Preisgestaltung für LLM-APIs erfolgt jedoch linear, was bedeutet, dass es für den Endverbraucher einen festen Preis für jedes verwendete Eingabe- oder Ausgabetoken gibt. Dies führt zu einer Diskrepanz zwischen den tatsächlichen Kosten für die Anbieter und den Preisen, die den Verbrauchern in Rechnung gestellt werden.

Warum Google die Preise erhöht hat

Die Preiserhöhung für Gemini 2.5 Flash könnte auf eine Korrektur für die übermäßige Nachfrage nach diesem Modell hinweisen. Bei der Einführung wurde angenommen, dass das Modell als kosteneffizienter „Arbeitspferd“-Modell fungieren würde. Es ist jedoch wahrscheinlich, dass die tatsächliche Nachfrage und die Art der Aufgaben, für die es verwendet wurde, nicht mit den ursprünglichen Annahmen übereinstimmten.

Die Einführung des „Flash Lite“-Modells ist eine klassische Marktsegmentierungsstrategie: Wenn Nutzer den niedrigsten Preis für ihre rechenintensiven Batch-Jobs wünschen, müssen sie nun ein weniger leistungsfähiges Modell akzeptieren.

Die neuen wirtschaftlichen Realitäten

Die Preiserhöhung von Google bricht mit der Illusion eines ständig sinkenden Preises für Intelligenz. Sie zeigt, dass die Kosten für LLM-Inferenz eine weiche Grenze erreicht haben, die durch die unveränderlichen Gesetze der Physik und der Wirtschaft bestimmt wird. Wir befinden uns nicht mehr in einer Ära einfacher Gewinne, in der ein einfaches Software-Update oder ein leicht verbessertes Modell massive Kostensenkungen ermöglicht.

Hardware ist der Engpass

Die Geschwindigkeit von LLMs ist grundlegend durch physikalische Einschränkungen der Speicherbandbreite begrenzt. Die Anschaffung zusätzlicher Hardware zur Lösung von Nachfrageproblemen muss die ständig steigende Nachfrage nach KI-Modellen übertreffen, was vorerst unwahrscheinlich ist.

Modelle erreichen eine Leistungsgrenze

Für eine gegebene Modellgröße beginnen die Fähigkeiten zu asymptotisieren, da uns die neuartigen Daten zum Trainieren ausgehen. Das Training mit mehr Daten führt zu abnehmenden Erträgen.

Energiekosten sind real

Rechenzentren verbrauchen enorme Mengen an Strom. Dies ist ein harter, physischer Kostenfaktor, der sich nicht mit einem Software-Update beseitigen lässt.

Fazit: Die Navigation durch die neue Kostenlandschaft

Die Entscheidung von Google, die Preise für Gemini 2.5 Flash zu erhöhen, war nicht nur eine geschäftliche Entscheidung; sie war ein Signal an den gesamten Markt. Die unaufhörliche Bewegung in Richtung null Kosten für Intelligenz hat die Wand der wirtschaftlichen Realität erreicht. Die Kosten für den Betrieb dieser leistungsstarken Modelle sind real, und Anbieter können es sich nicht mehr leisten, jede Art von Arbeitslast zu subventionieren.

In dieser neuen Ära ist ein intelligenterer Ansatz erforderlich. Anstatt auf billigere Modelle zu hoffen, liegt der Weg nach vorne in einer besseren Architektur. Für die meisten KI-Aufgaben, die keine sofortige Antwort erfordern, ist die Antwort nicht eine teurere Echtzeit-API, sondern ein effizienteres Paradigma. Durch die Nutzung von Batch-Verarbeitung und die Nutzung kostengünstiger Open-Source-Modelle können Unternehmen die Preisgrenze umgehen und ihre KI-Initiativen in einer Weise skalieren, die mit traditionellen APIs nicht mehr möglich ist.

Quellenliste:

• Quelle: THE END OF MOORE’S LAW FOR AI? GEMINI FLASH OFFERS A WARNING
• Sutro Documentation
• NVIDIA A100
• NVIDIA H100