Ein internes Wissenssystem mit KI

Möchten Sie, dass Ihre Kollegen schnell Antworten auf Fragen zu Produkten, Richtlinien, IT, Prozessen oder Kunden erhalten? Dann ist ein internes Wissenssystem mit einem eigenen Chatbot ideal. Dank Retrieval-Augmented Generation (RAG) ist ein solches System intelligenter denn je: Mitarbeiter stellen Fragen in natürlicher Sprache, und der Chatbot sucht direkt in Ihrer eigenen Dokumentation. Dies ist absolut sicher, ohne dass Daten an externe Parteien gelangen – selbst wenn Sie große Sprachmodelle von OpenAI oder Google verwenden.

Was ist RAG und warum funktioniert es so gut?

RAG bedeutet, dass ein KI-Chatbot zuerst in Ihrer eigenen Wissensquelle (Dokumente, Wikis, Handbücher, Richtlinien) sucht und erst danach eine Antwort generiert. Dadurch wird Folgendes erreicht:

• Die Antwort stimmt immer mit der internen Realität überein

• Es werden keine Falschinformationen generiert (wie manchmal bei reinen LLMs)

• Vertrauliche Daten werden niemals an die Außenwelt weitergegeben

Welche Tools können Sie verwenden?

Ein eigenes Wissenssystem kann mit verschiedenen Produkten aufgebaut werden, abhängig von Ihren Präferenzen und Anforderungen an Datenschutz, Skalierbarkeit und Benutzerfreundlichkeit.

Chatbot- und RAG-Frameworks

• LlamaIndex (llamaindex.ai) – Open Source, vielseitig einsetzbar

• Haystack (haystack.deepset.ai) – Stark in der Unternehmenssuche

• LangChain (langchain.com) – Leistungsstark für Verknüpfungen und Anpassungen

• OpenWebUI (open-webui.github.io) – Einfache, moderne Weboberfläche für Chat und Verwaltung

Vektordatenbanken (für Dokumentenspeicherung und schnelle Suchfunktion)

• ChromaDB (trychroma.com)

• Weaviate (weaviate.io)

• Qdrant (qdrant.tech)

KI-Modelle

• Große Modelle in der Cloud

  • OpenAI GPT-4

  • Google Gemini

  • Azure OpenAI Service

• Eigene Modelle (On-Premises oder Private Cloud)

  • Llama 3 (Meta), Mistral, DeepSeek, GPT4All, über Ollama oder LocalAI

Wichtig:
Viele Tools, darunter OpenWebUI und LlamaIndex, können sowohl lokale (On-Premises) als auch Cloud-Modelle verbinden. Ihre Dokumente und Suchanfragen verlassen Ihre eigene Infrastruktur niemals, es sei denn, Sie wünschen dies!

So fügen Sie Dokumente einfach hinzu

Die meisten modernen Wissenssysteme bieten eine einfache Upload- oder Synchronisierungsfunktion.
Dies funktioniert zum Beispiel so:

1. Laden Sie Ihre Dokumente hoch (PDF, Word, TXT, E-Mails, Wiki-Seiten) über die Weboberfläche (z.B. OpenWebUI)

2. Automatische Verarbeitung: Das Tool indiziert Ihr Dokument und macht es sofort für den Chatbot durchsuchbar

3. Live-Aktualisierung: Fügen Sie eine neue Datei hinzu? Dann wird diese meist innerhalb weniger Sekunden oder Minuten in die Antworten aufgenommen

Für Fortgeschrittene:
Automatische Verknüpfungen mit SharePoint, Google Drive, Dropbox oder einem Dateiserver sind mit LlamaIndex oder Haystack problemlos möglich.

Daten bleiben sicher und intern

Egal, ob Sie sich für eigene Modelle oder große Cloud-Modelle entscheiden:

• Sie bestimmen selbst, was nach außen gelangt und was nicht

• Integration mit Single Sign-On und Zugriffsverwaltung ist standardmäßig möglich

• Audit-Trails: Wer hat was abgerufen?

Für sensible Informationen ist es ratsam, KI-Modelle On-Premises oder in einer privaten Cloud zu verwenden. Aber selbst wenn Sie GPT-4 oder Gemini einsetzen, können Sie einstellen, dass Ihre Dokumente niemals als Trainingsdaten verwendet oder dauerhaft vom Anbieter gespeichert werden.

Beispiel einer modernen Einrichtung

Mit OpenWebUI bauen Sie einfach ein sicheres, internes Wissenssystem auf, in dem Mitarbeiter Fragen an spezialisierte Chatbots stellen können. Sie können Dokumente hochladen, nach Kategorien ordnen und verschiedene Chatbots als Experten in ihrem jeweiligen Fachgebiet agieren lassen. Hier erfahren Sie, wie!

1. Inhalte hinzufügen und kategorisieren

Hochladen von Dokumenten

• Melden Sie sich über Ihren Browser bei OpenWebUI an.

• Gehen Sie zum Bereich Dokumente oder Wissensdatenbank.

• Klicken Sie auf Hochladen und wählen Sie Ihre Dateien aus (PDF, Word, Text usw.).

• Tipp: Fügen Sie beim Hochladen eine Kategorie oder ein Label hinzu, z.B. „HR“, „Technik“, „Vertrieb“, „Richtlinien“ usw.

Vorteil: Durch die Kategorisierung kann sich der richtige Chatbot (Experte) auf relevante Quellen konzentrieren, und Sie erhalten immer eine passende Antwort.

2. Chatbots mit eigenen Spezialgebieten (Rollen)

OpenWebUI ermöglicht es, mehrere Chatbots zu erstellen, jeder mit einem eigenen Spezialgebiet oder einer eigenen Rolle. Beispiele:

• HR-Bot: Fragen zu Urlaub, Verträgen, Arbeitsbedingungen.

• IT-Support: Hilfe bei Passwörtern, Anwendungen, Hardware.

• Richtlinien-Bot: Antworten zu Unternehmensrichtlinien und Compliance.

• SalesCoach: Informationen zu Produkten, Preisen und Angeboten.

Direkt loslegen oder lieber Hilfe?

Möchten Sie schnell einen Proof-of-Concept durchführen? Mit beispielsweise OpenWebUI und LlamaIndex haben Sie oft innerhalb eines Nachmittags eine Demo online!
Möchten Sie es professionell einrichten, an Ihre bestehende IT anbinden, oder muss es wirklich sicher sein?
NetCare hilft Ihnen bei jedem Schritt: von der Auswahlhilfe bis zur Implementierung, Integration und Schulung.

Kontaktieren Sie uns für ein unverbindliches Beratungsgespräch oder eine Demo.

NetCare – Ihr Wegweiser für KI, Wissen und digitale Sicherheit