Was kostet die Hetzner KI-Inferenz-API?

In der aktuellen Experimentphase nichts. Hetzner hat noch nicht einmal eine Abrechnung eingebaut. Das kann sich jederzeit ändern, denn das Experiment dient erkennbar dazu, Nachfrage und Lastverhalten zu testen. Wer Hetzners Preispolitik bei Cloud-Servern kennt, darf für ein späteres Bezahlmodell auf Preise deutlich unter den US-Anbietern hoffen, versprochen ist das aber nirgends.

Kann ich damit DSGVO-konform Kundendaten verarbeiten?

Aktuell nicht seriös. Die Server stehen zwar in Deutschland und Finnland und unterliegen nicht dem US CLOUD Act, aber Hetzner stellt für das Experiment keinen Auftragsverarbeitungsvertrag bereit. Ohne AVV fehlt die vertragliche Grundlage nach Art. 28 DSGVO. Bis dahin gehören in die API nur synthetische Daten, interne Inhalte ohne Personenbezug oder Prototypen.

Wie gut ist das angebotene Modell Qwen3.6-35B-A3B?

Es ist ein kleines, schnelles Mixture-of-Experts-Modell. Für Zusammenfassungen, Klassifizierung, Datenextraktion und einfache Chat-Aufgaben reicht das gut, und die gemessene Geschwindigkeit ist für diese Modellklasse ordentlich. Mit den großen Modellen von OpenAI, Anthropic oder Google kann es bei komplexen Aufgaben nicht mithalten, in ersten Tests scheiterte es sogar an simplen Rechenaufgaben. Das Modell ist der austauschbarste Teil des Angebots, die Infrastruktur dahinter ist der interessante.

Wie probiere ich die API aus?

Über das Experiments-Dashboard unter experiments.hetzner.com einen API-Token erzeugen, dann im OpenAI-SDK die Basis-URL auf den Hetzner-Endpunkt stellen und den Token als API-Key eintragen. Mehr ist es nicht, ein bestehendes Hetzner-Konto vorausgesetzt. Ein erster Test kostet damit etwa zehn Minuten und kein Geld.

Hetzner Inference: die neue KI-API mit Qwen3.6, OpenAI-kompatibel auf EU-Servern

Meine Server laufen seit Jahren bei Hetzner, diese Website eingeschlossen. Warum, habe ich im Vergleich mit AWS und Azure ausführlich vorgerechnet. Deshalb bin ich hellhörig geworden, als Hetzner im Juli 2026 still ein neues Experiment freigeschaltet hat, nämlich eine eigene KI-Inferenz-API. Sprachmodelle über eine Schnittstelle abrufen, wie man es von OpenAI kennt, nur eben auf Servern in Deutschland und Finnland.

Das ist für ein Unternehmen wie Hetzner ein bemerkenswerter Schritt. Bisher hieß Open-Source-KI auf europäischer Infrastruktur fast immer, einen eigenen GPU-Server zu mieten und das Modell selbst zu betreiben. Das lohnt sich erst bei dauerhafter Auslastung und setzt einiges an Betriebswissen voraus. Eine API, bei der man nur für Abrufe zahlt, senkt die Schwelle erheblich. Genau in diese Lücke zielt das Experiment.

Was Hetzner konkret anbietet

Der Umfang ist bewusst klein gehalten. Es gibt derzeit genau ein Modell, Qwen3.6-35B-A3B in FP8-Quantisierung. Das ist ein Mixture-of-Experts-Modell mit 35 Milliarden Parametern, von denen pro Anfrage nur rund 3 Milliarden aktiv rechnen. Vereinfacht gesagt trägt das Modell viel Wissen mit sich herum, nutzt für jede einzelne Antwort aber nur einen kleinen, passenden Ausschnitt davon. Das macht es schnell und günstig im Betrieb, bei begrenzter Tiefe.

Der Zugang läuft über das Experiments-Dashboard unter experiments.hetzner.com. Dort erzeugt man einen API-Token, und ab da verhält sich die Schnittstelle wie die von OpenAI. Kostenlos ist das Ganze auch, eine Abrechnung hat Hetzner schlicht noch nicht eingebaut. Dazu gehört die andere Seite derselben Medaille: kein Service Level Agreement, keine Betriebsgarantie, ausdrücklich Experiment-Status. Hetzner will erkennbar erst einmal herausfinden, ob und wie das Angebot genutzt wird.

OpenAI-kompatibel heißt: zwei Zeilen ändern

Der praktisch wichtigste Punkt ist die Kompatibilität. Die API spricht das OpenAI-Format, und das bedeutet, dass bestehender Code weiterläuft, wenn man Basis-URL und Key austauscht:

from openai import OpenAI

client = OpenAI(
    base_url="https://<endpunkt-aus-dem-dashboard>",
    api_key="<dein-hetzner-api-token>",
)

antwort = client.chat.completions.create(
    model="Qwen/Qwen3.6-35B-A3B-FP8",
    messages=[
        {"role": "user", "content": "Fasse diese Anfrage in einem Satz zusammen: ..."}
    ],
)

print(antwort.choices[0].message.content)

Wer schon einmal einen Anbieterwechsel bei einer klassischen Cloud durchgezogen hat, weiß, was für ein Unterschied das ist. Kein neues SDK, keine umgeschriebenen Aufrufe, keine wochenlange Migration. Das OpenAI-Format hat sich als Quasi-Standard durchgesetzt, und Hetzner tut gut daran, ihn einfach zu übernehmen. Für Tests heißt das: Man kann eine bestehende Anwendung in Minuten probeweise auf Hetzner umstellen und direkt vergleichen.

Entwicklungsumgebung mit Quellcode auf einem Monitor Foto: pankajpatel / Unsplash

Wie schnell ist das Ganze?

Erste unabhängige Messungen vom 23. Juli 2026 liefern brauchbare Anhaltspunkte. Gemessen wurden 153 Millisekunden bis zum ersten Token im Median und rund 224 Token pro Sekunde bei längeren Ausgaben. Zur Einordnung: Damit fühlt sich ein Chat flüssig an, und für Hintergrundaufgaben wie Zusammenfassungen oder Klassifizierung ist das mehr als genug. Es ist eine einzelne Messung zu einem einzelnen Zeitpunkt, unter Last kann das anders aussehen, aber als erster Eindruck ist das ein ordentlicher Wert.

Beim Modell selbst muss man die Erwartungen richtig setzen. Ein 35-Milliarden-MoE-Modell spielt nicht in der Liga der großen Modelle von OpenAI, Anthropic oder Google. In ersten Tests patzte Qwen3.6 sogar bei einfachen Rechenaufgaben. Für die Aufgaben, für die man ein kleines, schnelles Modell realistisch einsetzt, ist das aber verschmerzbar: Texte zusammenfassen, E-Mails klassifizieren, Daten aus Dokumenten ziehen, interne Suchen und RAG-Bausteine, einfache Assistenten. Solche Aufgaben machen in der Praxis einen Großteil dessen aus, was Unternehmen tatsächlich automatisieren, und dafür braucht es kein Spitzenmodell.

Der eigentliche Punkt: EU-Infrastruktur, aber noch ohne AVV

Interessant wird das Angebot durch den Standort. Die Server stehen in Deutschland und Finnland, betrieben von einem deutschen Unternehmen. Der US CLOUD Act, der amerikanische Anbieter selbst bei EU-Rechenzentren zur Datenherausgabe verpflichten kann, greift hier nicht. Für alle, die KI-Funktionen einbauen wollen und bei jedem US-Anbieter ein Datenschutz-Bauchweh haben, klingt das nach genau dem fehlenden Baustein.

Netzwerk-Hardware mit gesteckten Kabeln in einem Rack Foto: albertstoynov / Unsplash

Nur ist das Experiment dafür schlicht noch nicht gebaut. Hetzner stellt keinen Auftragsverarbeitungsvertrag bereit, und ohne AVV fehlt die vertragliche Grundlage, die Art. 28 DSGVO für die Verarbeitung personenbezogener Daten durch einen Dienstleister verlangt. Der Serverstandort allein macht eine Verarbeitung nicht zulässig. Dazu kommt das fehlende SLA, das jede Produktivnutzung zum Glücksspiel macht. Beides zusammen ergibt eine klare Grenze, die man kennen sollte, bevor man sich zu sehr freut.

Was heute schon sauber geht: Prototypen und Machbarkeitstests, interne Werkzeuge ohne Personenbezug, Verarbeitung synthetischer oder anonymisierter Daten, Entwicklungs- und Staging-Umgebungen. Das ist weniger, als man sich wünscht, aber mehr, als es klingt. Die meisten KI-Projekte, die ich sehe, scheitern nicht am Produktivbetrieb, sondern schon davor, weil nie jemand günstig ausprobieren konnte, ob der Anwendungsfall überhaupt trägt. Genau dieses Ausprobieren ist jetzt kostenlos.

Warum ich das Experiment ernst nehme

Man kann das Ganze als Spielerei abtun, ein Modell, kein SLA, keine Abrechnung. Ich sehe es anders, und zwar wegen des Musters dahinter. Hetzner hat schon beim klassischen Cloud-Geschäft gezeigt, wie das Unternehmen Märkte betritt: spät, unspektakulär und dann mit Preisen, die um den Faktor 4 bis 10 unter den US-Hyperscalern liegen. Die GPU-Kapazität dafür ist vorhanden, die Rechenzentren stehen, die Kostenstruktur ist bekannt aggressiv.

Wenn aus dem Experiment ein reguläres Produkt mit Abrechnung, SLA und AVV wird, entsteht etwas, das es in dieser Form bisher kaum gibt: eine KI-Inferenz-API auf deutscher Infrastruktur zu Hetzner-Preisen. Für den Mittelstand wäre das die Antwort auf die häufigste Frage, die ich zu KI-Automatisierung höre, nämlich wo die Daten eigentlich hinlaufen. Ob es so kommt, entscheidet Hetzner vermutlich anhand der Nutzung des Experiments. Auch deshalb lohnt sich das Ausprobieren.

Bis dahin gilt eine pragmatische Zweiteilung. Entwickeln und testen auf der Hetzner-API, produktiv gehen mit personenbezogenen Daten weiterhin dort, wo AVV und SLA existieren. Durch die OpenAI-Kompatibilität ist der spätere Umzug dann tatsächlich nur ein Tausch der Basis-URL.

Mein Fazit

Hetzner Inference ist heute ein kostenloses Experiment mit einem kleinen Modell und klaren Grenzen, aber es ist das strategisch interessanteste Infrastruktur-Signal seit langem aus deutscher Richtung. Die Schnittstelle ist da, die Geschwindigkeit stimmt, der Standort stimmt. Was fehlt, sind die Verträge, und die sind bei einem Anbieter dieser Größe eine Frage der Entscheidung, nicht der Fähigkeit.

Wenn du gerade überlegst, wo KI-Funktionen für deine Website oder deine internen Abläufe laufen sollen, ob bei einem US-Anbieter, auf eigener Hardware oder perspektivisch auf so einer EU-API, dann melde dich gerne. Ich baue solche Automatisierungen regelmäßig und rechne dir nüchtern vor, welche Variante zu deinem Fall passt.