Ihre Suche ist kaputt, und alle wissen es
Wissensarbeiter verbringen rund 20 Prozent ihrer Arbeitswoche damit, nach Informationen zu suchen. Das ist die bekannte McKinsey-Zahl. Ein voller Tag pro Woche, jede Woche.
Rechnen Sie das für ein Team von 50 Leuten hoch. Sie bezahlen das Gehalt von zehn Mitarbeitern dafür, dass niemand findet, was er sucht.
Das Problem steckt nicht in Ihrer Wissensmanagement-Software, sondern in der Art, wie sie sucht. Die meisten Werkzeuge, ob Confluence, internes Wiki oder Dateiserver, gleichen Stichwörter ab. “Erstattungsrichtlinie Enterprise” liefert jedes Dokument, in dem diese Wörter vorkommen. Seitenweise irrelevante Treffer.
Ihr Team scrollt, klickt, scrollt weiter, gibt auf und fragt eine Kollegin.
Eine KI-gestützte Suche versteht Bedeutung. “Wie lautet unsere Erstattungsrichtlinie für Enterprise-Kunden?” liefert genau den richtigen Absatz aus Ihrer Vertragsvorlage. Ein Treffer. Der richtige.
Warum die Stichwortsuche versagt
Die Stichwortsuche wurde für das Web gebaut, wo Redundanz hilft. Zehn Seiten zu einem Thema zu finden ist völlig in Ordnung, wenn Sie recherchieren.
Internes Wissen funktioniert anders. Sie brauchen eine bestimmte Antwort aus einem bestimmten Dokument. Stichwörter können das nicht leisten, weil sie keinen Kontext verstehen.
“Wie haben wir das Abrechnungsproblem bei Projekt Atlas gelöst?” setzt voraus, dass das System “Abrechnungsproblem”, “Rechnungsstreit” und “Zahlungsschwierigkeit” als dasselbe begreift. Die Stichwortsuche behandelt sie als drei verschiedene Anfragen. Die semantische Suche behandelt sie als gleichbedeutend.
Genau hier liegt der Unterschied. Eine semantische Suche findet die Bedeutung, nicht die zufällige Wortwahl des Verfassers.
Ein Beispiel aus der Praxis. Ein Maschinenbauer aus dem Schwäbischen hatte 15 Jahre Wartungsberichte in einem Dateiserver liegen.
Ein Servicetechniker, der wissen wollte, warum eine bestimmte Pumpe in einer Anlage immer wieder ausfiel, musste die richtige PDF erst finden, und dazu erst einmal wissen, dass sie überhaupt existierte. Mit der Stichwortsuche dauerte das eine halbe Stunde, oft länger.
Die semantische Suche kennt diese Hürde nicht. Sie fragt in normalem Deutsch, das System liefert die zwei Berichte, in denen genau dieser Fehler beschrieben ist. Auch dann, wenn der Kollege vor zehn Jahren ein ganz anderes Vokabular benutzt hat.
Die Architektur
Ein System für die Unternehmenssuche mit KI besteht aus drei Schichten. Es ähnelt einem RAG-System, ist aber gezielt auf die Qualität der Treffer optimiert.
Ist Ihnen der Begriff neu? Wir haben die Funktionsweise von Retrieval-Augmented Generation an anderer Stelle erklärt.
Die Indexierungsschicht verarbeitet Ihre Dokumente. Sie zerlegt sie in sinnvolle Abschnitte, erzeugt Embeddings (numerische Repräsentationen von Bedeutung) und legt diese zusammen mit Metadaten in einer Vektordatenbank ab.
Die Abfrageschicht nimmt die Frage eines Nutzers, wandelt sie in ein Embedding um und führt eine semantische Ähnlichkeitssuche gegen Ihren Index aus. Sie holt die relevantesten Abschnitte, sortiert nach Bedeutung statt nach reiner Wortüberschneidung.
Die Präsentationsschicht bereitet die Treffer auf. Hervorgehobene Passagen, Quelldokumente, Konfidenzwerte. Der Nutzer sieht genau, woher die Antwort stammt, und kann sie prüfen.
Der komplette Durchlauf dauert ein bis drei Sekunden. Schnell genug für den Live-Einsatz in Slack, Teams oder einer eigenen Suchoberfläche.
Was Sie indexieren sollten
Fangen Sie mit den Dokumenten an, nach denen Ihr Team am häufigsten sucht.
Arbeitsanweisungen und Prozessdokumentation. Das Zeug, nach dem jede Woche jemand fragt, weil sich keiner merkt, in welchem Ordner es liegt.
Produktdokumentation und Artikel aus der Wissensdatenbank. Sowohl interne technische Docs als auch kundenseitige Hilfeinhalte.
Projektartefakte: Besprechungsnotizen, Entscheidungslogs, Architekturdokumente, Post-mortems. Das institutionelle Gedächtnis, das sonst im Kopf einer einzigen Person steckt.
Slack- und E-Mail-Archive, mit den passenden Datenschutzkontrollen. Hier werden die echten Entscheidungen getroffen, nicht in der formellen Dokumentation.
CRM-Notizen und Kundenhistorie. Damit Ihr Support-Team nicht jedes Mal fragen muss: “Kann mal jemand die Historie zu diesem Account rausziehen?” Genau das ist auch das Fundament, auf dem eine KI-gestützte Triage für den Kundenservice aufsetzt.
Ein Wort zum Datenschutz, weil das im deutschen Markt keine Fußnote ist. Sobald Sie Slack-Verläufe, E-Mails oder CRM-Notizen indexieren, verarbeiten Sie personenbezogene Daten.
Klären Sie vorab Berechtigungen, Aufbewahrungsfristen und EU-Hosting. Ein Index, der jedem Mitarbeiter Gehaltsverhandlungen aus dem HR-Kanal ausspuckt, ist kein Feature. Das ist ein DSGVO-Vorfall.
In der Praxis heißt das: Embeddings und Index gehören in eine Infrastruktur, die Sie kontrollieren. Für viele Mittelständler bedeutet das ein Rechenzentrum in Deutschland oder zumindest in der EU, mit einem Auftragsverarbeitungsvertrag, der hält. Wer sensible Inhalte an ein US-Modell schickt, das die Daten zum Training behält, handelt sich genau die Probleme ein, die er vermeiden wollte.
Beziehen Sie den Betriebsrat früh ein. Eine Suche über interne Kommunikation ist mitbestimmungspflichtig, und ein Tool, das ohne Absprache eingeführt wird, wird wieder abgeschaltet.
Ein Index ist kein Projekt mit Enddatum. Dokumente ändern sich, neue kommen hinzu, alte werden überholt. Planen Sie von Anfang an eine Pipeline ein, die Änderungen automatisch erfasst und den Index aktuell hält.
Ein Wissensspeicher, der den Stand von vor sechs Monaten zeigt, ist schlimmer als nutzlos. Er ist irreführend.
Bei eingescannten Verträgen, PDFs oder handschriftlichen Notizen kommt noch ein Schritt davor: Die Inhalte müssen erst maschinenlesbar gemacht und sauber strukturiert werden, bevor sie sich überhaupt indexieren lassen. Das ist eine eigene Disziplin, und für viele Mittelständler der eigentliche Engpass.
Die Metadaten sind die halbe Miete
Reine Textsuche reicht nicht. Kontext zählt. Ein Dokument, das “Umsatz um 15 Prozent gestiegen” sagt, ist wertlos, solange Sie nicht wissen, welches Quartal, welche Produktlinie, welche Region.
Hängen Sie an jeden indexierten Abschnitt Metadaten: Titel, Erstellungsdatum, Autor, Abteilung, Projektname, Dokumenttyp. Diese Metadaten machen gefilterte Suche möglich: “Zeig mir nur Engineering-Entscheidungen aus dem dritten Quartal 2025.”
Genau an dieser Stelle sparen die meisten Umsetzungen am falschen Ende. Tun Sie es nicht. Gute Metadaten entscheiden darüber, ob Ihr Team das Suchwerkzeug liebt oder es nach einer Woche wieder fallen lässt.
Selbst bauen oder einkaufen?
Fertige Wissensmanagement-Software mit KI-Suche wie Glean, Guru oder Algolia funktioniert gut für Unternehmen mit gängigen Dokumenttypen und Standardanforderungen. Solche Lösungen binden die üblichen Tools von Haus aus an. Die Preise liegen je nach Anbieter und Funktionsumfang grob bei 25 bis 50 Euro pro Nutzer und Monat (Stand 2026), oft mit Mindestabnahme.
Eine Eigenentwicklung lohnt sich, wenn Sie tief in proprietäre Systeme integrieren, spezielle Dokumenttypen verarbeiten oder strenge Anforderungen an den Speicherort der Daten haben. Letzteres ist im Mittelstand selten verhandelbar. Die Baukosten bewegen sich erfahrungsgemäß im Bereich von 25.000 bis 60.000 Euro.
Der Markt für Unternehmenssuche lag 2026 bei rund 7,47 Milliarden US-Dollar und soll bis 2031 auf etwa 11,66 Milliarden steigen (Mordor Intelligence). Das Feld reift schnell, und die fertigen Lösungen werden mit jedem Quartal besser.
Für Unternehmen unter 50 Personen mit Standard-Tools gewinnt meist der Einkauf. Darüber, oder bei Sonderanforderungen, fängt der Eigenbau an, sich zu rechnen. Wer den Rahmen genauer abstecken will, findet in unserem Überblick dazu, was eine KI-Integration kostet, die nötigen Bezugsgrößen.
Wirkung messen
Verfolgen Sie von Anfang an drei Kennzahlen. Trefferquote: Hat der Nutzer gefunden, was er brauchte? Zeit bis zur Antwort: Wie lange dauert es von der Frage bis zum brauchbaren Ergebnis?
Auch die Nutzungsrate zählt. Wenn die Leute das Werkzeug nicht anfassen, sind alle anderen Zahlen egal.
Bei einem Kunden sprang die Trefferquote im ersten Monat von 31 Prozent (alte Stichwortsuche) auf 78 Prozent (KI-gestützt). Die Zeit, um eine Information zu finden, fiel von durchschnittlich zwölf Minuten auf unter zwei.
Die Einarbeitungszeit sank um 40 Prozent. Neue Kolleginnen, die früher wochenlang gesucht hatten, wo was liegt, fanden Antworten schon am ersten Tag.
Halten Sie den Mehrwert qualitativ fest, wenn die harten Zahlen fehlen. Weniger Rückfragen an die Kollegen. Schnellere Antworten an Kunden. Wissen, das nicht mehr mit der Person das Haus verlässt, die kündigt.
Gerade der letzte Punkt wiegt im Mittelstand schwer. Wenn der eine Kollege in Rente geht, der noch weiß, wie die Sonderkonfiguration für einen wichtigen Kunden zustande kam, geht oft ein Stück Betriebswissen mit.
Eine gut gepflegte Wissensdatenbank macht aus diesem stillschweigenden Wissen etwas Auffindbares. Das ist kein weiches Argument. Das ist Risikomanagement.
Klein anfangen, nicht alles auf einmal
Der Reflex, einfach alles zu indexieren, was im Unternehmen herumliegt, ist verständlich. Er ist auch der schnellste Weg zu einem Projekt, das nie fertig wird.
Suchen Sie sich eine Abteilung und eine konkrete Frage. Der Support, der ständig die gleichen Produktdetails nachschlägt. Das Vertriebsteam, das vor jedem Angebot die alten Verträge durchwühlt.
Bauen Sie die Suche dafür, messen Sie, ob sie hilft, und erst dann erweitern Sie.
Dieser Zuschnitt hat einen zweiten Vorteil. Sie lernen am kleinen Datensatz, wie Ihre Dokumente zerlegt werden müssen, welche Metadaten fehlen und wo die Berechtigungen klemmen. Diese Erkenntnisse skalieren mit. Die Fehler eines vollständigen Roll-outs nicht.
Wo die meisten scheitern
Die Technik ist selten das Problem. Vektordatenbanken und Embedding-Modelle sind heute Commodity. Sie stolpern an anderer Stelle.
Müll rein, Müll raus. Wenn Ihre Dokumentation widersprüchlich, veraltet oder lückenhaft ist, liefert die beste Suche zuverlässig die falsche Antwort. Räumen Sie zuerst auf.
Berechtigungen werden zu spät bedacht. Eine Suche, die Inhalte zeigt, die der Nutzer gar nicht sehen darf, ist schlimmer als gar keine Suche. Bauen Sie die Zugriffslogik von Tag eins ein, nicht nachträglich.
Niemand misst die Akzeptanz. Ein Tool, das nach drei Wochen brachliegt, war kein günstiges Experiment. Es war verbrannte Zeit. Das ist einer der häufigsten Gründe, an denen KI-Vorhaben kippen, und fast immer vermeidbar.
Eine intelligente Suche ist kein isoliertes Feature. Sie ist ein Baustein in einer durchdachten KI-Strategie. Wie sich solche Bausteine sinnvoll in den Arbeitsalltag einfügen, zeigt unser Leitfaden zur KI-Workflow-Integration für den Mittelstand.
Wollen Sie das Wissen Ihres Unternehmens endlich auffindbar machen? Lassen Sie uns eine KI-Suchlösung zuschneiden. Wir sehen uns Ihre Dokumente, Ihre Teamgröße und Ihre bestehenden Tools an und empfehlen den passenden Weg.