Et internt videnssystem med AI

Ønsker du, at kolleger hurtigt får svar på spørgsmål om produkter, politikker, IT, processer eller kunder? Så er et internt videnssystem med din egen chatbot ideelt. Takket være Retrieval-Augmented Generation (RAG) er et sådant system klogere end nogensinde: Medarbejdere stiller spørgsmål i almindeligt sprog, og chatrobotten søger direkte i jeres egen dokumentation. Dette kan gøres fuldstændig sikkert, uden at data lækker til eksterne parter – selv hvis I bruger store sprogmodeller fra OpenAI eller Google.

• Stemmer svaret altid overens med den interne virkelighed
• Der gives ingen fabrikationer (som undertiden er tilfældet med rene LLM'er)
• Fortrolige data deles aldrig med omverdenen

Hvilke værktøjer kan du bruge?

Opsætning af et eget videnssystem kan gøres med forskellige produkter, afhængigt af dine præferencer og krav til privatliv, skalerbarhed og brugervenlighed.

Chatbot og RAG-frameworks

• LlamaIndex (llamaindex.ai) – Open source, bredt anvendelig
• Haystack (haystack.deepset.ai) – Stærk i enterprise search
• LangChain (langchain.com) – Kraftfuld til integrationer og tilpasning
• OpenWebUI (open-webui.github.io) – Simpel, moderne webgrænseflade til chat og administration

Vektordatabaser (til dokumentlagring og hurtig søgefunktion)

• ChromaDB (trychroma.com)
• Weaviate (weaviate.io)
• Qdrant (qdrant.tech)

AI-modeller

• Store modeller i skyen
  • OpenAI GPT-4
  • Google Gemini
  • Azure OpenAI Service

• Egne modeller (on-premises eller privat cloud)
  • Llama 3 (Meta), Mistral, DeepSeek, GPT4All, via Ollama eller LocalAI

Vigtigt:
Mange værktøjer, herunder OpenWebUI og LlamaIndex, kan forbinde både lokale (on-premises) og cloud-modeller. Dine dokumenter og søgninger forlader aldrig din egen infrastruktur, medmindre du ønsker det!

Sådan tilføjer du nemt dokumenter

De fleste moderne videnssystemer tilbyder en simpel upload- eller synkroniseringsfunktion.
Dette fungerer for eksempel således:

1. Upload dine dokumenter (PDF, Word, txt, e-mails, wiki-sider) via webgrænsefladen (som OpenWebUI)
2. Automatisk behandling: Værktøjet indekserer dit dokument og gør det øjeblikkeligt søgbart for chatbottens
3. Live opdatering: Tilføjer du en ny fil? Så bliver den normalt inkluderet i svarene inden for få sekunder eller minutter

For avancerede:
Automatiske forbindelser til SharePoint, Google Drive, Dropbox eller en filserver er fuldt ud mulige med LlamaIndex eller Haystack.

Data forbliver sikker og intern

Uanset om du vælger egne modeller eller store cloud-modeller:

• Du bestemmer selv, hvad der må komme ud, og hvad der ikke må
• Integration med Single Sign-On og adgangskontrol er standard muligt
• Revisionsspor: hvem har konsulteret hvad?

For følsomme oplysninger anbefales det at bruge AI-modeller on-premises eller inden for en privat cloud. Men selv hvis du anvender GPT-4 eller Gemini, kan du indstille, at dine dokumenter aldrig bruges som træningsdata eller permanent gemmes af udbyderen.

Eksempel på et moderne setup

Med OpenWebUI opbygger du nemt et sikkert, internt videnssystem, hvor medarbejdere kan stille spørgsmål til specialiserede chatbots. Du kan uploade dokumenter, organisere dem efter kategori og lade forskellige chatbots fungere som eksperter inden for deres eget fagområde. Læs mere her!

1. Tilføjelse og kategorisering af indhold

Upload af dokumenter

• Log ind på OpenWebUI via din browser.
• Gå til sektionen Dokumenter eller Vidensbase.
• Klik på Upload og vælg dine filer (PDF, Word, tekst osv.).
• Tip: Tilføj en kategori eller et mærke, når du uploader, f.eks. "HR", "Teknik", "Salg", "Politik" osv.

Fordel: Ved at kategorisere kan den rette chatbot (ekspert) fokusere på relevante kilder, og du får altid et passende svar.

2. Chatbots med egne specialer (roller)

OpenWebUI gør det muligt at oprette flere chatbots, hver med sit eget speciale eller rolle. Eksempler:

• HR-Bot: Spørgsmål om orlov, kontrakter, ansættelsesvilkår.
• IT-Support: Hjælp til adgangskoder, applikationer, hardware.
• PolitikBot: Svar om virksomhedspolitikker og compliance.
• Salgscoach: Information om produkter, priser og tilbud.

Klar til at starte, eller foretrækker du hjælp?

Vil du hurtigt køre et proof-of-concept? Med for eksempel OpenWebUI Med LlamaIndex kan du ofte have en demo online på en enkelt eftermiddag!
Ønsker du professionel opsætning, integration med din eksisterende IT, eller skal det være fuldt ud sikkert?
NetCare hjælper med hvert skridt: fra valgvejledning til implementering, integration og træning.

Kontakt os til en uforpligtende rådgivningssamtale eller demo.

NetCare – Din guide til AI, viden og digital sikkerhed