Kosten & Energie
KI-/GPU-Strom-Referenz
GPU-TDP je Modell, der Aufbau von Knoten- zu Anlagenleistung bei typischem Server-Overhead und PUE, und die Rack-Dichte-Schwelle, ab der Luftkühlung nicht mehr ausreicht. Zusammen mit dem KI-/GPU-Infrastruktur — Strom & Kosten Rechner nutzen.
Zuletzt aktualisiert: Juli 2026
Abkürzungen
- GPUGraphics Processing Unit (Grafikprozessor)
- Ein Chip, der ursprünglich für Grafikdarstellung gebaut wurde und sich als extrem gut für KI-Berechnungen herausstellte, weil er riesige Mengen einfacher Rechenschritte gleichzeitig ausführen kann. KI-Training und -Anwendung laufen heute fast ausschließlich auf GPUs statt auf dem normalen Prozessor (CPU).
- TDPThermal Design Power (thermische Verlustleistung)
- Die maximale Wärmeleistung, für die ein Chip unter Dauerlast ausgelegt ist, angegeben in Watt — ein Näherungswert für seine ungünstigste Leistungsaufnahme. Eine GPU mit 700 W TDP kann unter voller KI-Last dauerhaft nahe an diesem Wert liegen, anders als ein normaler Prozessor, der selten an seiner Spitzenlast läuft.
- PUEPower Usage Effectiveness
- Wie viel Strom eine Anlage insgesamt verbraucht, damit eine Einheit bei den Servern ankommt. 1,5 bedeutet: 50 % zusätzlich gehen für Kühlung und Verluste drauf. Kleiner ist besser.
- NVLinkNVIDIAs Hochgeschwindigkeitsverbindung zwischen GPUs
- Eine Hochgeschwindigkeitsverbindung, über die mehrere GPUs im selben Server direkt miteinander Daten austauschen — deutlich schneller als über das normale Netzwerk. Sie ist mit ein Grund, warum ein Server mit mehreren GPUs spürbar mehr Strom zieht, als die einzelnen GPU-Werte zusammengezählt vermuten lassen.
GPU-Leistung je Modell (8-GPU-Knoten)
Typische Nenn-TDP je GPU und die resultierende Leistung eines 8-GPU-Knotens — dem üblichen Baustein von KI-Servern — bei 1,8× Server-Overhead (CPUs, NVLink, RAM, Netzteilverluste) und PUE 1,4.
| GPU-Modell | TDP | Knotenleistung (8 GPU, ×1,8) | Anlagenleistung (×PUE 1,4) |
|---|---|---|---|
| NVIDIA A100 | 400 W | 5,8 kW | 8,1 kW |
| NVIDIA L40S | 350 W | 5,0 kW | 7,1 kW |
| NVIDIA H100 | 700 W | 10,1 kW | 14,1 kW |
| NVIDIA H200 | 700 W | 10,1 kW | 14,1 kW |
| NVIDIA B200 | 1000 W | 14,4 kW | 20,2 kW |
| NVIDIA B300 | 1400 W | 20,2 kW | 28,2 kW |
Lesehilfe: Ein 8×H100-Knoten zieht ~10,1 kW Knotenleistung vor Anlagen-Overhead — nicht die 5,6 kW, die die reine GPU-Leistung vermuten lässt. Spezifikationen ändern sich; als Planungsgröße verstehen, nicht als Herstellerdatenblatt.
Luft- vs. Flüssigkühlung — die ~30-kW/Rack-Schwelle
Die Rack-Dichte wird gegen die Knotenleistung verglichen (vor PUE) — das ist die Wärme, die physisch aus dem Rack abgeführt werden muss.
| Knotenleistung pro Rack | Verdikt | Bedeutung |
|---|---|---|
| Bis 20 kW | Luftkühlung OK | Standard-Kalt-/Warmgang bewältigt das problemlos |
| 20 – 30 kW | Luftkühlung grenzwertig | Erfordert gute Containment und leistungsstarke CRAC/CRAH-Einheiten |
| Über 30 kW | Flüssigkühlung erforderlich | Luft kann die Wärme nicht mehr abführen — direkte Chip- oder Immersionskühlung nötig |
Echte dichte KI-Racks (NVIDIA GB200-NVL72-Klasse, ~72 GPUs) erreichen 120–140 kW pro Rack — weit über der Luftkühlungsgrenze, weshalb Flüssigkühlung bei den dichtesten KI-Deployments inzwischen Standard ist.
Wie viele GPUs passen pro Rack, bevor Flüssigkühlung nötig wird?
Knotenleistung je GPU (TDP × 1,8 Server-Overhead) geteilt in die ~30-kW/Rack-Luftkühlungsgrenze — eine grobe Obergrenze, bevor ein Rack Flüssigkühlung braucht, unabhängig davon, auf wie viele physische Server sich das verteilt.
| GPU-Modell | Knotenleistung je GPU | Max. GPUs/Rack (luftgekühlt, ca.) |
|---|---|---|
| NVIDIA A100 | 0,72 kW | ~41 GPUs |
| NVIDIA L40S | 0,63 kW | ~47 GPUs |
| NVIDIA H100 / H200 | 1,26 kW | ~23 GPUs |
| NVIDIA B200 | 1,8 kW | ~16 GPUs |
| NVIDIA B300 | 2,52 kW | ~11 GPUs |
Lesehilfe: Ein Rack mit H100 bleibt bis etwa 23 GPUs luftgekühlt (rund drei 8-GPU-Knoten); der neuere, hungrigere B300 überschreitet diese Grenze bereits bei rund 11 GPUs — den eigenen Wert mit dem KI-/GPU-Strom- & Kostenrechner prüfen.
Die Leistungsaufbau-Formel
GPU-Leistung = TDP × GPU-Anzahl × Auslastung
Knotenleistung = GPU-Leistung × Server-Overhead (~1,8) — deckt CPUs, NVLink, RAM und Netzteilverluste ab
Anlagenleistung = Knotenleistung × PUE — die Zahl, die tatsächlich auf der Stromrechnung landet
Jahreskosten = Anlagenleistung × Stunden/Jahr × Strompreis — KI-Inferenz läuft häufig nahezu durchgehend (8.760 h), anders als typische Büro-IT-Last.
Häufige Fragen
Wie viel Strom verbraucht eine H100-GPU tatsächlich?
Die H100 ist mit ~700 W TDP angegeben, aber ein vollständiger 8-GPU-Knoten zieht eher 10 kW, sobald der Server-Overhead (CPUs, NVLink, RAM, Netzteilverluste, ~1,8×) eingerechnet wird — und das noch vor dem Anlagen-/Kühlungs-Overhead (PUE).
Warum brauchen dichte GPU-Racks Flüssigkühlung?
Luftkühlung stößt selbst mit guter Containment bei etwa 30 kW Wärmeabfuhr pro Rack an ihre Grenze. Dichte KI-Racks mit vielen leistungsstarken GPUs überschreiten das regelmäßig — moderne GB200-NVL72-Racks erreichen 120–140 kW —, weshalb direkte Flüssigkühlung dort die einzig praktikable Option ist.
Bedeutet höhere Auslastung immer höhere Kosten?
Ja, in diesem Modell näherungsweise linear — die Leistung skaliert mit der Auslastung. Genau deshalb laufen KI-/Inferenz-Deployments anders als sprunghafte Büro-Workloads nahezu durchgehend bei hoher Auslastung — und Strom wird so zum dominanten Betriebskostenposten.