Mein KI-Zwilling läuft zu 100 % in Ihrem Browser. Ihrer auch?
Lokale KI in der Praxis: Ich habe ein kleines KI-Modell auf mich selbst trainiert; es läuft zu 100 % im Browser. KI ohne Cloud, ohne US-Anbieter, ohne dass ein Byte das Gerät verlässt. Und was dasselbe Muster für Unternehmensdaten bedeutet.
Oben auf dieser Seite gibt es eine Chat-Leiste. Fragen Sie sie etwas. „Warum nicht einfach Azure?" funktioniert gut. Was Ihnen antwortet, ist kein verstecktes ChatGPT. Es ist ein kleines KI-Modell, auf mich trainiert, und es läuft in Ihrem Browser-Tab. Öffnen Sie die Netzwerk-Konsole und schauen Sie zu: Nach dem einmaligen Download geht nichts mehr raus. Ziehen Sie mitten im Gespräch das Netzwerkkabel, und es antwortet weiter.
Warum ich es so gebaut habe
Ich baue souveräne, DSGVO-konforme KI für Unternehmen im DACH-Raum und berate dazu. Jeder Berater sagt „Ihre Daten gehören Ihnen". Ich wollte, dass meine eigene Website das so wörtlich wie möglich beweist: Die KI, mit der Sie gerade sprechen, kann physisch nicht nach Hause telefonieren.
Der Unterschied ist größer, als er klingt. Wenn Ihre Teams ein US-gehostetes KI-Tool nutzen, lautet die Frage nicht, ob der Anbieter vertrauenswürdig ist. Sondern: Welches Recht kann an die Daten heran? Dasselbe Gespräch, in drei Varianten:
| Öffentliches ChatGPT | US-Cloud, „EU-Region" | On-Device / eigene Infrastruktur | |
|---|---|---|---|
| Wohin Ihre Worte gehen | Server des US-Anbieters | EU-Rechenzentrum eines US-Anbieters | Sie bleiben, wo sie sind |
| Welches Recht sie erreicht | US-Recht | US-Recht (der CLOUD Act folgt dem Anbieter, nicht dem Server) | Ihres |
| Wer zur Herausgabe gezwungen werden kann | Der Anbieter | Der Anbieter | Niemand außer Ihnen |
| Laufende Kosten | Pro Nutzer, für immer | Pro Nutzer oder Token, für immer | Gehört Ihnen |
Die mittlere Spalte überrascht die meisten. Ein US-Gericht hat die Aufbewahrung von KI-Chatprotokollen angeordnet, auch gelöschter, und Microsofts eigener Justiziar hat 2025 unter Eid ausgesagt, dass EU-Kundendaten nicht garantiert außerhalb der US-Reichweite bleiben. Eine EU-Region beantwortet, wo die Server stehen, nicht, wessen Recht gilt.
Was lokale KI (On-Device-KI) eigentlich bedeutet
Lokale KI (auch On-Device-KI oder Edge-KI) heißt: Das Modell selbst läuft auf der Hardware vor Ort: Laptop, Smartphone, ein Server in Ihrem eigenen Rack. Nichts wird an die API eines Anbieters gestreamt. Das ist etwas anderes als „Private Cloud", etwas anderes als eine „EU-Region", und etwas ganz anderes als ein öffentlicher Chatbot. Das Modell auf dieser Seite ist das kleinste nützliche Beispiel: Es lebt im Browser-Cache und rechnet auf der GPU des Browsers. Für Unternehmen landet dieselbe Idee meist eine Stufe höher: ein selbst gehostetes Modell auf eigener Infrastruktur, hinter der eigenen Firewall, unter eigenem Recht.
Bis vor Kurzem war das unpraktisch, und deshalb haben die meisten Unternehmen es nie ernsthaft geprüft. Zwei Dinge haben sich geändert. Kleine offene Modelle wurden richtig gut, sobald man sie für eine konkrete Aufgabe feinabstimmt, statt Weltwissen von ihnen zu verlangen. Und das Werkzeug, um sie zu betreiben (im Browser, auf bescheidenen Servern, auf vorhandener Hardware), ist reif geworden: Ein funktionierendes System ist eine Sache von Wochen, kein Forschungsprojekt.
Die Kostenfrage, die kaum jemand durchrechnet
Cloud-KI ist wie ein Abo-Laufband bepreist: pro Nutzer oder pro Token, jeden Monat, für immer, zu einem Preis, den jemand anderes festlegt. Ein eigenes Modell dreht das um. Sie zahlen einmal für Aufbau und Feinabstimmung, es läuft auf Hardware, die Sie verstehen, und die Grenzkosten der nächsten tausend Fragen sind ungefähr: Strom. Für ein kleines Team ist das Abo in Ordnung. Bei Hunderten Mitarbeitenden, oder wenn KI Teil Ihres Produkts wird, kippt die Rechnung schnell. Und ein Risiko verschwindet, das auf keiner Rechnung steht: dass Ihr Anbieter Preise, Bedingungen oder Modellverhalten unter Ihnen ändert.
Häufige Fragen
Ist ein kleines lokales KI-Modell so gut wie ChatGPT?
In allem? Nein. In der einen Aufgabe, für die es trainiert wurde? Meistens ja, und oft konsistenter, weil es aus Ihren Dokumenten antwortet statt zu improvisieren. Der Zwilling auf dieser Seite kennt meine Arbeit; Ihren Marketingplan schreibt er nicht. Genau dieser Tausch ist für Unternehmensanwendungen richtig: ein Spezialist unter Ihrer Kontrolle statt eines brillanten Generalisten unter fremder.
Ist die EU-Region eines US-Cloud-Anbieters nicht DSGVO-konform?
Konformität und Souveränität sind zwei verschiedene Fragen. Eine EU-Region klärt, wo die Server stehen. Der CLOUD Act verpflichtet US-Anbieter zur Herausgabe von Daten, die sie kontrollieren, unabhängig vom Speicherort, und Microsofts Justiziar hat 2025 unter Eid bestätigt, dass EU-Kundendaten nicht garantiert außerhalb der US-Reichweite bleiben. Wenn Ihre Risikoanalyse bei „das Rechenzentrum steht in Frankfurt" endet, hat sie eine Frage zu früh aufgehört.
Welche Hardware braucht selbst gehostete KI?
Weniger, als der Hype vermuten lässt. Diese Seite betreibt ein feinabgestimmtes Modell auf dem Laptop, den Sie gerade in der Hand haben. Ernsthafte Dokumenten- oder Produktdaten-Workloads laufen typischerweise auf einem einzelnen GPU-Server, und viel echte Arbeit passt auf CPU-Maschinen, die Sie schon besitzen. Die Modellgröße ist eine Designentscheidung, kein Naturgesetz: Passend geschnitten schlägt überdimensioniert bei Kosten, Geschwindigkeit und Prüfbarkeit.
Was kostet so ein Projekt?
Das hängt vom Umfang ab, und deshalb nenne ich auf einer Website keine Zahlen. Der ehrliche Weg: ein kostenloses Erstgespräch, dann ein schlanker Pilot, der in Wochen ein funktionierendes System auf Ihren Daten liefert, mit echten Zahlen. Sie entscheiden mit Belegen, nicht mit einem Foliensatz.
Kann mein Unternehmen so einen Chatbot bekommen?
Ja, und meistens einen besseren: Ihre Version kennt Ihre Produkte, Ihre Dokumente und Ihre Prozesse, spricht Ihre Sprachen und läuft dort, wo Ihre Daten ohnehin liegen. Der hier ist absichtlich klein, damit er in einen Browser-Tab passt. Ihrer bekommt einen richtigen Server.
Was das für Ihr Unternehmen bedeutet
Der Zwilling ist die Demo eines Musters, und das Muster ist das eigentliche Produkt:
- Dokumenten-Intelligenz, die Ihre Verträge in Ihrer Infrastruktur liest, damit Ihre Verträge nie Trainingsmaterial von jemand anderem werden.
- Produktdaten-KI, die Ihren Katalog auf Ihren Servern anreichert und klassifiziert (PIM, ETIM).
- Interne Assistenten, die Ihre Mitarbeitenden tatsächlich nutzen dürfen, weil die Antworten auf „wohin gehen die Daten" und „welches Recht gilt" lauten: nirgendwohin, und Ihres.
Wenn ein 211-MB-Modell in einem Browser-Tab das hier kann, stellen Sie sich vor, was auf einem richtigen Server in Ihrem Rack läuft. Ein Pilot dauert Wochen, keine Quartale: ein funktionierendes System auf Ihren Daten, in Ihrer Landschaft, mit echten Zahlen als Entscheidungsgrundlage.
Probieren Sie den Zwilling aus: die Chat-Leiste oben auf dieser Seite. Englisch funktioniert auch. Dasselbe Modell, dasselbe Gerät, und die Netzwerk-Konsole bleibt still.