Künstliche-Intelligenz-Roboter

Ein internes Wissenssystem mit KI

Möchten Sie, dass Kolleginnen und Kollegen schnell Antworten auf Fragen zu Produkten, Richtlinien, IT, Prozessen oder Kunden erhalten? Dann ist ein internes Wissenssystem mit einem eigenen Chatbot ideal. Dank Retrieval-Augmented Generation (RAG) ist ein solches System intelligenter denn je: Mitarbeitende stellen Fragen in natürlicher Sprache und der chatbot durchsucht direkt Ihre eigene Dokumentation. Dies funktioniert völlig sicher, ohne Daten an externe Parteien preiszugeben – selbst dann, wenn Sie große Sprachmodelle von OpenAI oder Google nutzen.

  • Stimmt die Antwort immer mit der internen Realität überein
  • Werden keine Halluzinationen (Erfindungen) produziert (wie es bei reinen LLMs manchmal der Fall ist)
  • Werden vertrauliche Daten niemals nach außen weitergegeben

Welche Tools können Sie nutzen?

Der Aufbau eines eigenen Wissenssystems ist mit verschiedenen Produkten möglich, je nach Ihren Präferenzen und Anforderungen an Datenschutz, Skalierbarkeit und Benutzerfreundlichkeit.

Chatbot- und RAG-Frameworks

Vektor-Datenbanken (für Dokumentenspeicherung und schnelle Suchfunktion)

KI-Modelle

Wichtig:
Viele Tools, darunter OpenWebUI und LlamaIndex, können sowohl lokale (On-Premises-) als auch Cloud-Modelle anbinden. Ihre Dokumente und Suchanfragen verlassen niemals Ihre eigene Infrastruktur, es sei denn, Sie wünschen es!

So fügen Sie ganz einfach Dokumente hinzu

Die meisten modernen Wissenssysteme bieten eine einfache Upload- oder Synchronisationsfunktion.
Dies funktioniert beispielsweise wie folgt:

  1. Dokumente hochladen (PDF, Word, txt, E-Mails, Wiki-Seiten) über die Web-Benutzeroberfläche (wie OpenWebUI)
  2. Automatische Verarbeitung: Das Tool indiziert Ihr Dokument und macht es für den Chatbot direkt durchsuchbar
  3. Live-Aktualisierung: Fügen Sie eine neue Datei hinzu? Diese wird dann meist innerhalb von Sekunden oder Minuten in die Antworten einbezogen

Für Fortgeschrittene:
Automatische Verknüpfungen mit SharePoint, Google Drive, Dropbox oder einem Dateiserver lassen sich mit LlamaIndex oder Haystack problemlos realisieren.

Daten bleiben sicher und intern

Egal, ob Sie sich für eigene Modelle oder große Cloud-Modelle entscheiden:

  • Sie bestimmen selbst, was nach außen gelangt und was nicht
  • Integration mit Single Sign-On und Zugangsverwaltung ist standardmäßig möglich
  • Audit-Trails: Wer hat was abgerufen?

Für sensible Informationen empfiehlt sich der Einsatz von KI-Modellen on-premises oder innerhalb einer Private Cloud. Doch selbst wenn Sie GPT-4 oder Gemini einsetzen, können Sie einstellen, dass Ihre Dokumente vom Anbieter niemals als Trainingsdaten verwendet oder dauerhaft gespeichert werden.

Beispiel für ein modernes Setup

Mit OpenWebUI bauen Sie ganz einfach ein sicheres, internes Wissenssystem auf, in dem Mitarbeitende Fragen an spezialisierte Chatbots richten können. Sie können Dokumente hochladen, nach Kategorien ordnen und verschiedene Chatbots als Experten auf ihrem jeweiligen Fachgebiet agieren lassen. Hier erfahren Sie, wie das geht!

1. Inhalte hinzufügen und kategorisieren

Dokumente hochladen

  • Melden Sie sich über Ihren Browser bei OpenWebUI an.
  • Gehen Sie zum Bereich Dokumente oder Wissensdatenbank.
  • Klicken Sie auf Hochladen und wählen Sie Ihre Dateien aus (PDF, Word, Text usw.).
  • Tipp: Fügen Sie beim Hochladen eine Kategorie oder ein Label hinzu, wie „HR“, „Technik“, „Sales“, „Richtlinien“ usw.

Vorteil: Durch die Kategorisierung kann sich der passende Chatbot (Experte) auf relevante Quellen konzentrieren, sodass Sie stets eine passende Antwort erhalten.

AIR über OpenWebUI

2. Chatbots mit eigenen Spezialisierungen (Rollen)

OpenWebUI ermöglicht das Erstellen mehrerer Chatbots, jeweils mit einem eigenen Spezialgebiet oder einer eigenen Rolle. Beispiele:

  • HR-Bot: Fragen zu Urlaub, Verträgen, Arbeitsbedingungen.
  • IT-Support: Hilfe bei Passwörtern, Anwendungen, Hardware.
  • RichtlinienBot: Antworten zu Unternehmensrichtlinien und Compliance.
  • SalesCoach: Informationen zu Produkten, Preisen und Angeboten.

Direkt loslegen oder lieber Hilfe?

Möchten Sie schnell einen Proof-of-Concept umsetzen? Mit beispielsweise OpenWebUI und LlamaIndex haben Sie oft schon an einem Nachmittag eine Demo online!
Möchten Sie es professionell einrichten, an Ihre bestehende IT anbinden oder muss es absolut sicher sein?
NetCare hilft bei jedem Schritt: von der Entscheidungshilfe bis hin zu Implementierung, Integration und Schulung.

Nehmen Sie Kontakt auf für ein unverbindliches Beratungsgespräch oder eine Demo.

NetCare – Ihr Wegweiser für KI, Wissen und digitale Sicherheit

Gerard

Gerard ist als KI-Berater und Manager tätig. Mit viel Erfahrung in großen Organisationen kann er Probleme besonders schnell analysieren und auf eine Lösung hinarbeiten. In Kombination mit seinem wirtschaftlichen Hintergrund sorgt er für geschäftlich fundierte Entscheidungen.