Die ehrliche TCO-Rechnung: Self-Hosting vs. API (mit interaktivem Rechner)

Hinweis: Alle Zahlen in diesem Artikel und im Rechner sind illustrative Modell-Platzhalter in Groessenordnung, kein Angebot und kein gemessenes Kundenergebnis. Jeder Standardwert ist an einen oeffentlichen Marktbenchmark angelehnt (veroeffentlichte Hardwarepreise fuer Open-Weight-GPUs, deutsche Industriestrompreise um 0,20 EUR/kWh, die uebliche dreijaehrige deutsche IT-Abschreibung, typische Vollkosten einer MLOps-Stelle, veroeffentlichte Token-API-Preise). Setzen Sie Ihre eigenen, aktuellen Zahlen ein.

Die Entscheidung in einem Satz

Die meisten “Self-Host vs. Cloud”-Rechner vergleichen den Hardwarepreis mit den monatlichen API-Ausgaben und erklaeren nach sechs Monaten den Sieg. Dieser Vergleich ist falsch, weil er alles weglaesst, was noetig ist, um aus einer Kiste unter dem Schreibtisch einen verlaesslichen Dienst zu machen.

Eine ehrliche TCO hat zwei Seiten. Dieser Artikel rechnet beide vollstaendig und gibt Ihnen ein Modell zum Selbstausfuellen.

Teil 1: Das Modell (der ehrliche Teil)

Seite A: Self-Hosting, volle Laufrate

Seite B: Das API-Meter

Die Amortisationsformel

                       Einmalkosten fuer den Aufbau (Hardware + Setup)
Amortisation (Monate) = ───────────────────────────────────────────────────
                        Monatliche API-Ausgaben − Monatliche Self-Host-Laufrate

Zwei ehrliche Konsequenzen fallen direkt aus dieser Formel:

• Liegt die monatliche Laufrate nahe an den API-Ausgaben, amortisiert sich nie etwas. Allein die Betriebszeit kann den groessten Teil der “Ersparnis” eines kleinen Workloads aufzehren. Fuer einen einzelnen leichten Workload zahlt sich Self-Hosting oft nicht aus.
• Die Amortisation bricht ein, sobald Sie Workloads hinzufuegen. Strom, Kuehlung, Redundanz und vor allem Betriebszeit sind je Knoten weitgehend fix. Legen Sie einen zweiten und dritten Workload auf dieselbe Hardware, waechst die API-Seite, waehrend sich die Self-Host-Seite kaum bewegt. Self-Hosting ist ein Konsolidierungsspiel, kein Einzel-App-Spiel.

Das ist die eigentliche und ehrliche These: Self-Hosting gewinnt, wenn Sie genug KI-Arbeit haben, um einen gut betriebenen Knoten auszulasten.

Teil 2: Rechnen Sie selbst

Alle Standardwerte unten sind die illustrativen Werte aus dem Beispiel und klar als editierbar markiert. Setzen Sie Ihre eigenen Zahlen ein und sehen Sie, wo Ihr Kipppunkt liegt. Die dezente gestrichelte Linie zeigt die “nur Hardware”-Rechnung: bewusst als Kontrast zur ehrlichen Linie.

Das illustrative Beispiel zum Nachvollziehen

Setup (illustrativ): ein Knoten in Schreibtisch-Groesse im Geist dessen, was wir selbst betreiben, grob 20.000 EUR Hardware (rund 4 Boxen der DGX-Spark-Klasse), passend fuer ein mittelgrosses Open-Weight-Modell.

Szenario 1: Ein Workload (der Warnfall)

Amortisation rund 30.000 EUR / 965 EUR / Monat, also rund 31 Monate. Nicht die sechs bis sieben Monate, die die naive “Hardware vs. API-Rechnung”-Mathematik verspricht. Bei voller TCO-Ehrlichkeit ist die Amortisation fuer einen einzelnen leichten Workload langsam, deutlich ueber zwei Jahre, und auf Kostenbasis allein womoeglich nicht lohnend. (Datenhoheit und Unabhaengigkeit koennen sie dennoch rechtfertigen.)

Die viel zitierte Amortisation in “rund 6 bis 7 Monaten” (rund 20.000 EUR Hardware / rund 3.000 EUR/Monat) ist die reine Hardware-Sicht. Wir zeigen sie bewusst daneben, um die Luecke zwischen der einfachen Geschichte und der ehrlichen sichtbar zu machen.

Szenario 2: Drei Workloads auf demselben Knoten (der reale Fall)

Betrieb, Strom, Kuehlung und Redundanz werden weitgehend geteilt; je Workload kommt nur ein moderates Setup hinzu.

Amortisation rund 40.000 EUR / 6.600 EUR / Monat, also rund 6 Monate. Dieselbe Hardware, dieselbe Betriebsdisziplin, aber jetzt leistet die Konsolidierung die Arbeit. Hier verdient sich Self-Hosting seinen Platz.

Teil 3: Die ehrliche Fussnote

Wir betreiben das selbst, also sagen wir Ihnen den Teil, den der Rechner nicht kann: der Betrieb ist das Projekt. Opteria betreibt genau einen Knoten mit einer GPU plus eine Staging-Umgebung: klein, aber real. Wir verkaufen keine geliehene Skalierung, wir verkaufen die Methode und das Ergebnis. Unser Wert fuer “Betriebszeit” ist nicht null, weil wir ihn jeden Monat zahlen, und wir moechten lieber, dass Sie ehrlich dafuer budgetieren, als ihn zu entdecken, nachdem die Hardware geliefert ist.

Nutzen Sie den Rechner also fuer die Kostengeschichte. Stellen Sie dann die schwereren Fragen, die er nicht bepreist: Haben Sie genug KI-Last, um einen Knoten zu fuellen? Wem gehoert die Verfuegbarkeit um 2 Uhr nachts? Wie sensibel sind die Daten? Diese entscheiden ueber Self-Host vs. Cloud mindestens so stark wie die Euros, und genau das ist die Entscheidung je Workload, die wir bei Opteria treffen.

Verwandt: unser umfassenderer Kostenvergleich Cloud-LLM vs. eigene Infrastruktur und der Entscheidungsbaum Self-Host oder Cloud.