Seit Monaten baut sich jeder AI-Automation-Bro auf LinkedIn ein zweites Gehirn. Obsidian auf, ein paar hundert Markdown-Notizen rein, Chat dran, Carousel raus. Sieht super aus. Funktioniert genau so lange, bis man es wirklich benutzt.
In der Demo ist alles geil
Ich verstehe den Reiz. Du kippst deine Notizen in einen Ordner, ein Plugin rechnet sie in Vektoren um,Ein Embedding macht aus einem Text eine lange Zahlenreihe. Ähnliche Bedeutung, ähnliche Zahlen. Mehr Magie steckt da nicht drin. und plötzlich chattest du mit deinem eigenen Wissen. Bei vierzig Notizen ist das wirklich beeindruckend. Du fragst etwas, das Ding findet die richtige Notiz, das Modell formuliert eine schöne Antwort. Screenshot, Carousel, „Kommentiere GEHIRN und ich schick dir das Template“.
Spannend wird’s nach drei Monaten.
Dann liegen da nämlich dreihundert Notizen. Meetingprotokolle, halbe Entwürfe, drei Versionen derselben Preisliste und (mein Favorit) Zusammenfassungen, die die KI selbst geschrieben hat, von Notizen, die die KI selbst geschrieben hat. Ab irgendwo 200, 300 Einträgen fängt das System an zu schwimmen. Die Suche zieht drei Notizen, die fast gleich klingen. Eine davon ist vom letzten Jahr. Das Modell rührt daraus eine Antwort zusammen, die total überzeugend klingt. Und falsch ist.
Die falsche Antwort kommt aus deinen eigenen Daten. Also glaubst du sie.
Ein Wissensspeicher, dem du nicht trauen kannst, ist schlimmer als gar keiner. Ohne ihn hättest du wenigstens selbst nachgeschaut.
Nenn es, was es ist
Fangen wir beim Namen an. Second Brain. Klingt, als würde da etwas mitdenken. Tut es nicht. Das Ding speichert Text und sucht darin, also ist es eine Wissensdatenbank. Weniger sexy, ich weiß. Aber wer es so nennt, stellt automatisch die richtigen Fragen: Wo kommt dieser Eintrag her? Ist das die aktuelle Version? Und wer darf das eigentlich lesen?
Bei hiveo, der Wissensdatenbank, die ich für einen Kunden gebaut habe, gibt es deshalb eine Regel, über die ich nicht diskutiere: Was die KI schreibt, kommt erst in den Bestand, wenn ein Mensch es freigegeben hat. Sonst hast du das Obsidian-Problem, nur mit Firmenwissen. Irgendwann zitiert die KI sich selbst und hält das für eine Quelle.
Dein Firmenwissen ist kein Markdown
Jedes Second-Brain-Tutorial geht davon aus, dass Wissen in hübschen .md-Dateien liegt. Schau mal auf das Netzlaufwerk eines Mittelständlers. Da liegen Verträge, die 2014 jemand schief auf den Kopierer gelegt hat. Excel-Listen mit sieben Tabellenblättern. PDFs, in denen eine Tabelle über zwei Seiten läuft. Ein HTML-Export aus dem alten Intranet. Und Fotos von Prüfbögen, die mit Kuli ausgefüllt wurden.
Bevor du darin irgendwas suchen kannst, brauchst du eine OCR-Pipeline, die mehr kann als Buchstaben erkennen. Sie muss Überschriften, Spalten und Tabellen verstehen. Wird die Tabelle beim Einlesen zu Fließtext, steht die Kündigungsfrist irgendwann neben dem falschen Vertrag, und es fällt keinem auf. Außerdem muss jeder Abschnitt wissen, aus welchem Dokument und von welcher Seite er kommt. Sonst kannst du keine einzige Antwort nachprüfen.
Handschrift liest OCR inzwischen übrigens erstaunlich gut. Bei Namen und Zahlen würde ich trotzdem nicht drauf wetten.
Und dann ist da noch ein Fehler, über den fast keiner redet. Du aktualisierst ein Dokument, aber die alten Abschnitte bleiben im Index liegen und werden weiter gefunden. Ich nenne das Geister-Treffer. Die sind fies, weil sie aussehen wie eine ganz normale Antwort.
Vektoren können nicht zählen
Vektorsuche ist super, wenn es um Bedeutung geht. Du fragst „Wie gehen wir bei einer Reklamation vor?“, und sie findet den richtigen Abschnitt, auch wenn das Wort Reklamation darin gar nicht vorkommt. Das ist der Teil, den alle zeigen.
Jetzt frag mal: „Welche Wartungsverträge laufen 2027 aus?“ Mit Bedeutung hat das nichts zu tun. Die Antwort steht in einer Tabelle, und eine Tabelle, die du in Schnipsel zerhackt und vektorisiert hast, ist keine Tabelle mehr. Bei Artikelnummern, Namen und DIN-Normen ist es ähnlich. Die findet eine stinknormale Volltextsuche besser als jedes Embedding.
Ich arbeite deshalb immer mit beidem. Texte bekommen Vektoren und einen Volltextindex, Tabellen bleiben Tabellen und werden per SQL abgefragt. Bei hiveo liegt das alles in einer einzigen Postgres-Datenbank: Tabellen, Vektoren, Volltext, Rechte. Klingt langweilig. Ist es auch. Und langweilig heißt hier: Das kann man betreiben, sichern und auch in fünf Jahren noch verstehen.
Nicht jeder darf alles wissen
Im privaten Obsidian-Vault stellt sich diese Frage nie. In einer Firma ständig. Gehälter, Personalakten, Verträge und das Protokoll der letzten Gesellschafterversammlung liegen gern auf demselben Laufwerk wie das Handbuch für die Werkstatt.
Die Lösung, die ich am häufigsten sehe: Man schreibt dem Modell in den Prompt, dass es über Gehälter nicht reden soll. Das ist ungefähr so sicher wie ein Zettel „Bitte nicht öffnen“ am Tresor. Was das Modell im Kontext hat, kann auch in der Antwort landen. Die Rechte müssen greifen, bevor überhaupt gesucht wird. Bei hiveo ist die Rechteprüfung deshalb Teil der Datenbankabfrage. Gefunden wird nur, was die fragende Person auch selbst öffnen dürfte.
Heißt: Zwei Leute stellen dieselbe Frage und bekommen zwei verschiedene Antworten. Keiner von beiden merkt, dass es mehr gäbe.
Zehntausend Dokumente später
Mit hundert Dokumenten funktioniert fast jede Suche. Dachte ich zumindest. Im ersten Testbestand für hiveo gab es dann elf Prüfprotokolle für dieselbe Anlage, die sich bis aufs Datum glichen. Dazu eine Verordnung mit neun fast identischen Tabellen, die bei manchen Fragen einfach sämtliche Top-Plätze belegt hat. Bei hundert Dokumenten, wohlgemerkt. Bei zehntausenden ist das Alltag.
Dafür brauchst du eine richtige Retrieval-Pipeline. Bei mir sieht die so aus: Erst filtern die Rechte. Dann suchen Volltext und Vektoren parallel, und die Ergebnisse werden zusammengeführt. Kein Dokument darf mehr als drei Abschnitte stellen, damit nicht wieder eine Verordnung alles zumüllt. Und jeder Abschnitt trägt mit sich herum, aus welchem Dokument und welchem Kapitel er stammt.
Und dann wird gemessen. Für jeden Kunden gibt es einen festen Satz echter Fragen mit bekannten Antworten, und jede Änderung muss da durch. Ein Beispiel: Gefühlt jedes zweite RAG-Tutorial sagt, du brauchst einen Reranker. Ich hab einen eingebaut und gemessen. Die Ergebnisse wurden schlechter, also flog er wieder raus. Ohne Messung wäre er heute noch drin, und ich würde mich gut dabei fühlen.
Bau bitte keinen Chat
Der Klassiker zum Schluss: Die Firma bekommt ihr eigenes KI-Portal mit eigenem Chatfenster. Nach drei Wochen macht es keiner mehr auf, weil sowieso alle in ChatGPT oder Claude arbeiten.
Ich hänge die Wissensdatenbank deshalb per MCP genau an diese Tools.MCP heißt Model Context Protocol. Anthropic hat den Standard Ende 2024 veröffentlicht, inzwischen sprechen ihn die großen Anbieter. Gefragt wird da, wo eh schon gefragt wird, und die Antwort kommt mit Quelle bis auf die Seite zurück. Ein Klick, und das Dokument ist offen.
Nebeneffekt, und für mich eigentlich der Hauptgrund: Du hängst an keinem Anbieter mehr. Heute ist Claude vorne, nächstes Jahr vielleicht jemand anderes. Die Wissensdatenbank bleibt, wo sie ist, mit allen Rechten und Quellen. Das Modell tauschst du aus wie einen Druckertreiber.
Und jetzt?
Wenn du privat Notizen sammelst: Bau dir dein Obsidian-Ding, ist super. Wenn du das für eine Firma willst, brauchst du alles, was oben steht. Wirklich alles. Sonst hast du in drei Monaten dasselbe Problem wie der Obsidian-Vault, nur mit Personalakten.
Ist mehr Arbeit als ein Plugin und ein YouTube-Tutorial, klar. Ein Template dafür gibt es übrigens nicht. Auch nicht, wenn du GEHIRN kommentierst.
