Bruno KI: Lokal, kontrolliert, aber nicht magisch privat
Bruno ist kein neues Basismodell. Es ist eine kontrollierte KI-Architektur für eigene Daten, klare Rechte und nachvollziehbare Prozesse.
KI-Inhalte verändern sich schnell. Nächster planmäßiger Audit: 31.08.2026.
Datenhoheit entsteht nicht durch einen Server im Büro. Sie entsteht durch einen dokumentierten Datenfluss, begrenzte Zugriffe, passende Modelle und einen Betrieb, den jemand wirklich verantwortet.
Lokale Modelle können Abhängigkeit und Datenabfluss reduzieren. Updates, Lizenzen, Benutzerrechte, Backups, Protokolle, Hardware und angebundene Cloudfunktionen bleiben reale Arbeit.
Was Bruno ist – und was nicht
Bruno bezeichnet eine Architektur und Betriebsweise. Darunter können unterschiedliche offene oder kommerzielle Modelle laufen. Bruno ist weder ein selbst trainiertes Foundation Model noch die Behauptung, lokale KI sei automatisch besser. Der Name steht für kontrollierbare Bausteine statt einer undurchsichtigen Komplett-Cloud.
Statt fünf Kollegen zu unterbrechen, fragt er nach dem Freigabeprozess. Bruno findet die aktuelle Arbeitsanweisung und zeigt die genaue Fundstelle. Wenn zwei Versionen widersprechen, meldet das System den Konflikt statt eine hübsche Antwort zu erfinden.
Die vier Schichten
Erstens Hardware und Laufzeit für das Modell. Zweitens die Wissensschicht mit Dokumenten, Index und Berechtigungen. Drittens Werkzeuge wie Suche, CRM oder Dateizugriff. Viertens die Kontrollschicht mit Identität, Freigaben, Protokollen, Tests und Abschaltung. Erst das Zusammenspiel ergibt ein brauchbares System.
Lokal, Cloud oder Hybrid
Kleine Klassifikation, Zusammenfassung oder interne Wissenssuche kann lokal sinnvoll sein. Spitzenmodelle, große Bild- oder Videoaufgaben und seltene Lastspitzen können eine Cloud rechtfertigen. Ein Hybrid trennt sensible Vorverarbeitung und Wissenshaltung von externen Modellaufrufen. Entscheidend ist der Datenfluss, nicht das Etikett.
Hardware ohne Wunschdenken
Modellgröße, Quantisierung, Kontextlänge, gleichzeitige Nutzer und gewünschte Geschwindigkeit bestimmen RAM, VRAM und Kosten. Ein kleineres, spezialisiertes Modell kann im Betrieb besser sein als ein lokales Flaggschiff, das langsam läuft und niemand aktualisiert.
Datenhoheit braucht Berechtigungen
Ein gemeinsamer RAG-Index für alle Mitarbeiter kann bestehende Datei- und Abteilungsrechte aushebeln. Dokumentzugriff muss vor dem Retrieval gefiltert werden. Quellen, Löschung, Versionen und Benutzeridentität gehören deshalb in die Architektur, nicht in eine spätere Datenschutzfolie.
Die Datei liegt intern, aber nicht für jeden. Wenn der Suchindex alle Dokumente gemeinsam abfragt, kann ein Mitarbeiter über eine harmlose Frage vertrauliche Passagen erhalten. Lokal verhindert diesen Fehler nicht. Rechte vor der Suche schon.
Der KMU-Einsatz
Sinnvolle Startpunkte sind interne Handbücher, technische Dokumentation, Produktwissen, Angebotsvorbereitung und klar abgegrenzte Supportinformationen. Schlechte Startpunkte sind autonome Zahlungen, ungeprüfte Rechtsberatung oder ein Agent mit Vollzugriff auf Mail, Dateien und ERP.
Ein Servicetechniker gibt einen Fehlercode ein. Bruno findet die passende Passage im freigegebenen Handbuch, nennt Version und Seite. Die Reparaturentscheidung bleibt beim Techniker – besonders wenn Maschine und Wirklichkeit nicht zusammenpassen.
Bruno ersetzt kein Dokumentenchaos
Wenn fünf Ordner dieselbe Arbeitsanweisung in unterschiedlichen Ständen enthalten, kann ein RAG-System den Konflikt nur schneller sichtbar machen. Vor dem ersten Modellaufruf braucht es Eigentümer, gültige Versionen, Löschregeln und einen Ort, an dem die Wahrheit gepflegt wird. Sonst wird aus dem Firmenwissen ein gut formulierter Widerspruch.
Im Archiv liegen Preislisten von 2024, 2025 und 2026. Ohne Gültigkeitsdatum findet Bruno alle drei. Ein brauchbares System filtert nach Status und zeigt die Quelle. Ein Demo-Chat nimmt irgendeine Zahl und klingt dabei sicher.
Lokal ist eine Betriebsentscheidung
Ein Modell auf eigener Hardware verschiebt Verantwortung vom Plattformanbieter zum Betreiber. Das kann richtig sein – besonders bei dauerhaft sensiblen Daten, planbarer Nutzung und vorhandener IT-Kompetenz. Es kann aber auch teurer werden als erwartet. Strom, Hardware, Ausfälle, Updates, Sicherheitslücken und Zeit gehören in die Rechnung. Datenhoheit ist kein Gratisaufkleber.
Das System läuft sechs Monate ohne Update, Backups wurden nie zurückgespielt und das einzige Administratorkonto kennt jeder. Technisch lokal. Organisatorisch offen wie ein Scheunentor.
Bruno muss Nein sagen können
Ein kontrolliertes System beantwortet nicht jede Frage. Es stoppt bei fehlender Quelle, verweigert unzulässige Dokumente und fordert eine Freigabe an, bevor ein Werkzeug handelt. Diese Grenzen wirken in einer Demo weniger beeindruckend. Im Betrieb sind sie der Unterschied zwischen Assistenz und Risiko.
Ein Mitarbeiter fragt nach einer vertraglichen Kündigungsfrist. Bruno findet keinen freigegebenen Vertrag. Die richtige Antwort lautet nicht ‚üblicherweise vier Wochen‘, sondern: Quelle fehlt – bitte Vertrag auswählen oder Fachperson fragen.
Behauptung & Befund
Zweck, Rechtsgrundlage, Rechte, Protokolle, Löschung und Betrieb bleiben relevant.
Meist werden vorhandene Modelle mit eigenem Kontext, RAG und kontrollierten Werkzeugen kombiniert.
Gewichte, Code, Trainingsdaten und Nutzungsrechte können unterschiedlich offen sein.
Updates, Administratoren, Backups, Datenträger und lokale Benutzer bleiben Angriffs- und Abflusswege.
Quellen
- Ollama download and documentation Autor/Institution: OllamaPublisher: Ollama
- FAQ: Lokaler Betrieb und Datenverarbeitung Autor/Institution: OllamaPublisher: Ollama
- llama.cpp Autor/Institution: GitHubPublisher: GitHub
- Open WebUI Autor/Institution: GitHubPublisher: GitHub
- Künstliche Intelligenz: Risiken und Empfehlungen Autor/Institution: BSIPublisher: BSI
- Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden Autor/Institution: BSIPublisher: BSI
- Artificial Intelligence Risk Management Framework Autor/Institution: NISTPublisher: NIST
- Artificial Intelligence Risk Management Framework: Generative AI Profile Autor/Institution: NISTPublisher: NIST
- Künstliche Intelligenz und Datenschutz Autor/Institution: BfDIPublisher: BfDI