Mein KI-Zwilling läuft zu 100 % in Ihrem Browser. Ihrer auch?
Lokale KI in der Praxis: Ich habe ein kleines KI-Modell auf mich selbst trainiert; es läuft zu 100 % im Browser. KI ohne Cloud, ohne US-Anbieter, ohne dass ein Byte das Gerät verlässt. Und was dasselbe Muster für Unternehmensdaten bedeutet.
Oben auf dieser Seite gibt es eine Chat-Leiste. Fragen Sie sie etwas. „Warum nicht einfach Azure?" funktioniert gut. Was Ihnen antwortet, ist kein verstecktes ChatGPT. Es ist ein kleines KI-Modell, auf mich trainiert, und es läuft in Ihrem Browser-Tab. Öffnen Sie die Netzwerk-Konsole und schauen Sie zu: Nach dem einmaligen Download geht nichts mehr raus. Ziehen Sie mitten im Gespräch das Netzwerkkabel, und es antwortet weiter.
Warum ich es so gebaut habe
Ich baue souveräne, DSGVO-konforme KI für Unternehmen im DACH-Raum. Jeder Anbieter sagt „Ihre Daten gehören Ihnen". Ich wollte, dass meine eigene Website das so wörtlich wie möglich beweist: Die KI, mit der Sie gerade sprechen, kann physisch nicht nach Hause telefonieren.
Der Unterschied ist größer, als er klingt. Wenn Ihre Teams ein US-gehostetes KI-Tool nutzen, lautet die Frage nicht, ob der Anbieter vertrauenswürdig ist. Sondern: Welches Recht kann an die Daten heran? Dasselbe Gespräch, in drei Varianten:
| Öffentliches ChatGPT | US-Cloud, „EU-Region" | On-Device / eigene Infrastruktur | |
|---|---|---|---|
| Wohin Ihre Worte gehen | Server des US-Anbieters | EU-Rechenzentrum eines US-Anbieters | Sie bleiben, wo sie sind |
| Welches Recht sie erreicht | US-Recht | US-Recht (der CLOUD Act folgt dem Anbieter, nicht dem Server) | Ihres |
| Wer zur Herausgabe gezwungen werden kann | Der Anbieter | Der Anbieter | Niemand außer Ihnen |
| Laufende Kosten | Pro Nutzer, für immer | Pro Nutzer oder Token, für immer | Gehört Ihnen |
Die mittlere Spalte überrascht die meisten. Ein US-Gericht hat die Aufbewahrung von KI-Chatprotokollen angeordnet, auch gelöschter, und Microsofts eigener Justiziar hat 2025 unter Eid ausgesagt, dass EU-Kundendaten nicht garantiert außerhalb der US-Reichweite bleiben. Eine EU-Region beantwortet, wo die Server stehen, nicht, wessen Recht gilt.
Was lokale KI (On-Device-KI) eigentlich bedeutet
Lokale KI (auch On-Device-KI oder Edge-KI) heißt: Das Modell selbst läuft auf der Hardware vor Ort: Laptop, Smartphone, ein Server in Ihrem eigenen Rack. Nichts wird an die API eines Anbieters gestreamt. Das ist etwas anderes als „Private Cloud", etwas anderes als eine „EU-Region", und etwas ganz anderes als ein öffentlicher Chatbot. Das Modell auf dieser Seite ist das kleinste nützliche Beispiel: Es lebt im Browser-Cache und rechnet auf der GPU des Browsers. Für Unternehmen landet dieselbe Idee meist eine Stufe höher: ein selbst gehostetes Modell auf eigener Infrastruktur, hinter der eigenen Firewall, unter eigenem Recht.
Bis vor Kurzem war das unpraktisch, und deshalb haben die meisten Unternehmen es nie ernsthaft geprüft. Zwei Dinge haben sich geändert. Kleine offene Modelle wurden richtig gut, sobald man sie für eine konkrete Aufgabe feinabstimmt, statt Weltwissen von ihnen zu verlangen. Und das Werkzeug, um sie zu betreiben (im Browser, auf bescheidenen Servern, auf vorhandener Hardware), ist reif geworden: Ein funktionierendes System ist eine Sache von Wochen, kein Forschungsprojekt.
Die Kostenfrage, die kaum jemand durchrechnet
Cloud-KI ist wie ein Abo-Laufband bepreist: pro Nutzer oder pro Token, jeden Monat, für immer, zu einem Preis, den jemand anderes festlegt. Ein eigenes Modell dreht das um. Sie zahlen einmal für Aufbau und Feinabstimmung, es läuft auf Hardware, die Sie verstehen, und die Grenzkosten der nächsten tausend Fragen sind ungefähr: Strom. Für ein kleines Team ist das Abo in Ordnung. Bei Hunderten Mitarbeitenden, oder wenn KI Teil Ihres Produkts wird, kippt die Rechnung schnell. Und ein Risiko verschwindet, das auf keiner Rechnung steht: dass Ihr Anbieter Preise, Bedingungen oder Modellverhalten unter Ihnen ändert.
Häufige Fragen
Ist ein kleines lokales KI-Modell so gut wie ChatGPT?
In allem? Nein. In der einen Aufgabe, für die es trainiert wurde? Meistens ja, und oft konsistenter, weil es aus Ihren Dokumenten antwortet statt zu improvisieren. Der Zwilling auf dieser Seite kennt meine Arbeit; Ihren Marketingplan schreibt er nicht. Genau dieser Tausch ist für Unternehmensanwendungen richtig: ein Spezialist unter Ihrer Kontrolle statt eines brillanten Generalisten unter fremder.
Ist die EU-Region eines US-Cloud-Anbieters nicht DSGVO-konform?
Konformität und Souveränität sind zwei verschiedene Fragen. Eine EU-Region klärt, wo die Server stehen. Der CLOUD Act verpflichtet US-Anbieter zur Herausgabe von Daten, die sie kontrollieren, unabhängig vom Speicherort, und Microsofts Justiziar hat 2025 unter Eid bestätigt, dass EU-Kundendaten nicht garantiert außerhalb der US-Reichweite bleiben. Wenn Ihre Risikoanalyse bei „das Rechenzentrum steht in Frankfurt" endet, hat sie eine Frage zu früh aufgehört.
Welche Hardware braucht selbst gehostete KI?
Weniger, als der Hype vermuten lässt. Diese Seite betreibt ein feinabgestimmtes Modell auf dem Laptop, den Sie gerade in der Hand haben. Ernsthafte Dokumenten- oder Produktdaten-Workloads laufen typischerweise auf einem einzelnen GPU-Server, und viel echte Arbeit passt auf CPU-Maschinen, die Sie schon besitzen. Die Modellgröße ist eine Designentscheidung, kein Naturgesetz: Passend geschnitten schlägt überdimensioniert bei Kosten, Geschwindigkeit und Prüfbarkeit.
Was kostet so ein Projekt?
Hängt vom Umfang ab. Jede Zahl, die ich hier nenne, wäre für die meisten Leser falsch. Was funktioniert: ein kleiner Pilot, ein paar Wochen, ein laufendes System auf echten Daten, danach echte Zahlen. Darauf entscheiden, nicht auf Folien.
Kann ein Unternehmen so einen Chatbot betreiben?
Ja, und einen besseren. Die eigene Version eines Unternehmens kennt seine Produkte, seine Dokumente, seine Prozesse, spricht die Sprachen, die es braucht, und läuft genau dort, wo die Daten schon liegen. Meiner ist absichtlich winzig, damit er in einen Browser-Tab passt. Der eines Unternehmens bekommt einen richtigen Server.
Was das für Ihr Unternehmen bedeutet
Der Zwilling ist die Demo eines Musters, und das Muster ist das eigentliche Produkt:
- Dokumenten-Intelligenz, die Ihre Verträge in Ihrer Infrastruktur liest, damit Ihre Verträge nie Trainingsmaterial von jemand anderem werden.
- Produktdaten-KI, die Ihren Katalog auf Ihren Servern anreichert und klassifiziert (PIM, ETIM).
- Interne Assistenten, die Ihre Mitarbeitenden tatsächlich nutzen dürfen, weil die Antworten auf „wohin gehen die Daten" und „welches Recht gilt" lauten: nirgendwohin, und Ihres.
Wenn ein 211-MB-Modell in einem Browser-Tab das hier kann, stellen Sie sich vor, was auf einem richtigen Server in Ihrem Rack läuft. Ein Pilot dauert Wochen, keine Quartale: ein funktionierendes System auf echten Daten, in der bestehenden Landschaft, mit echten Zahlen als Entscheidungsgrundlage.
Probieren Sie den Zwilling aus: die Chat-Leiste oben auf dieser Seite. Englisch funktioniert auch. Dasselbe Modell, dasselbe Gerät, und die Netzwerk-Konsole bleibt still.