Ein internes KI-gestütztes Wissensmanagementsystem

Möchten Sie, dass Ihre Kollegen schnell Antworten auf Fragen zu Produkten, Richtlinien, IT, Prozessen oder Kunden erhalten? Dann ist ein internes Wissensmanagementsystem mit einer eigenen Chatbot-Lösung ideal. Dank Retrieval-Augmented Generation (RAG) ist ein solches System intelligenter als je zuvor: Mitarbeiter stellen Fragen in natürlicher Sprache, und der Chatbot durchsucht direkt Ihre eigenen Dokumentationen. Dies ist vollständig sicher möglich, ohne dass Daten an externe Parteien gelangen – selbst wenn Sie große Sprachmodelle von OpenAI oder Google verwenden.

• Stimmt die Antwort immer mit der internen Realität überein
• Werden keine Erfindungen geliefert (wie es bei reinen LLMs manchmal vorkommt)
• Vertrauliche Daten werden niemals mit der Außenwelt geteilt

Welche Tools können Sie verwenden?

Ein eigenes Wissensmanagementsystem kann mit verschiedenen Produkten eingerichtet werden, abhängig von Ihren Präferenzen und Anforderungen an Datenschutz, Skalierbarkeit und Benutzerfreundlichkeit.

Chatbot- und RAG-Frameworks

• LlamaIndex (llamaindex.ai) – Open Source, breit einsetzbar
• Haystack (haystack.deepset.ai) – Stark in Enterprise Search
• LangChain (langchain.com) – Leistungsstark für Verknüpfungen und kundenspezifische Anpassungen
• OpenWebUI (open-webui.github.io) – Einfache, moderne Weboberfläche für Chat und Verwaltung

Vektordatenbanken (für Dokumentenspeicherung und schnelle Suchfunktion)

• ChromaDB (trychroma.com)
• Weaviate (weaviate.io)
• Qdrant (qdrant.tech)

KI-Modelle

• Große Modelle in der Cloud

  • OpenAI GPT-4
  • Google Gemini
  • Azure OpenAI Service

• Eigene Modelle (on-premises oder private Cloud)

  • Llama 3 (Meta), Mistral, DeepSeek, GPT4All, über Ollama oder LocalAI

Wichtig:
Viele Tools, darunter OpenWebUI und LlamaIndex, können sowohl lokale (on-premises) als auch Cloud-Modelle verknüpfen. Ihre Dokumente und Suchanfragen verlassen niemals Ihre eigene Infrastruktur, es sei denn, Sie möchten es!

So fügen Sie einfach Dokumente hinzu

Die meisten modernen Wissensmanagementsysteme bieten eine einfache Upload- oder Synchronisierungsfunktion.
Dies funktioniert zum Beispiel so:

1. Laden Sie Ihre Dokumente hoch (PDF, Word, txt, E-Mails, Wiki-Seiten) über die Weboberfläche (wie OpenWebUI)
2. Automatische Verarbeitung: Das Tool indiziert Ihr Dokument und macht es für den Chatbot sofort durchsuchbar
3. Live-Aktualisierung: Fügen Sie eine neue Datei hinzu? Diese wird normalerweise innerhalb von Sekunden oder Minuten in die Antworten aufgenommen

Für Fortgeschrittene:
Automatische Verknüpfungen mit SharePoint, Google Drive, Dropbox oder einem Fileserver sind mit LlamaIndex oder Haystack gut möglich.

Daten bleiben sicher und intern

Ob Sie sich für eigene Modelle oder große Cloud-Modelle entscheiden:

• Sie bestimmen selbst, was nach außen geht und was nicht
• Integration mit Single Sign-On und Zugriffsverwaltung ist standardmäßig möglich
• Audit-Trails: Wer hat was abgerufen?

Für sensible Informationen empfiehlt es sich, KI-Modelle on-premises oder innerhalb einer privaten Cloud zu verwenden. Aber selbst wenn Sie GPT-4 oder Gemini einsetzen, können Sie einstellen, dass Ihre Dokumente niemals als Trainingsdaten verwendet oder vom Anbieter dauerhaft gespeichert werden.

Beispiel für eine moderne Konfiguration

Mit OpenWebUI erstellen Sie einfach ein sicheres, internes Wissensmanagementsystem, in dem Mitarbeiter spezialisierte Chatbots befragen können. Sie können Dokumente hochladen, nach Kategorien ordnen und verschiedene Chatbots als Experten auf ihrem jeweiligen Fachgebiet agieren lassen. Lesen Sie hier, wie das geht!

1. Inhalte hinzufügen und kategorisieren

Dokumente hochladen

• Melden Sie sich über Ihren Browser bei OpenWebUI an.
• Gehen Sie zum Bereich Dokumente oder Knowledge Base.
• Klicken Sie auf Hochladen und wählen Sie Ihre Dateien aus (PDF, Word, Text usw.).
• Tipp: Fügen Sie beim Hochladen eine Kategorie oder ein Label hinzu, z. B. „HR“, „Technik“, „Vertrieb“, „Richtlinien“ usw.

Vorteil: Durch die Kategorisierung kann der richtige Chatbot (Experte) sich auf relevante Quellen konzentrieren und Sie erhalten immer eine passende Antwort.

2. Chatbots mit eigenen Spezialgebieten (Rollen)

OpenWebUI ermöglicht die Erstellung mehrerer Chatbots, jeder mit einem eigenen Spezialgebiet oder einer eigenen Rolle. Beispiele:

• HR-Bot: Fragen zu Urlaub, Verträgen, Arbeitsbedingungen.
• IT-Support: Hilfe bei Passwörtern, Anwendungen, Hardware.
• Richtlinien-Bot: Antworten zu Unternehmensrichtlinien und Compliance.
• SalesCoach: Informationen zu Produkten, Preisen und Angeboten.

Sofort loslegen oder lieber Hilfe?

Möchten Sie schnell ein Proof-of-Concept durchführen? Mit beispielsweise OpenWebUI und LlamaIndex haben Sie oft schon an einem Nachmittag eine Demo online!Möchten Sie es professionell einrichten, an Ihre bestehende IT anbinden oder soll es wirklich sicher sein?
NetCare hilft Ihnen bei jedem Schritt: von der Auswahlhilfe bis zur Implementierung, Integration und Schulung.

Kontaktieren Sie uns für ein unverbindliches Beratungsgespräch oder eine Demo.

NetCare – Ihr Leitfaden für KI, Wissen und digitale Sicherheit