Et internt videnssystem med AI

Ønsker du, at kolleger hurtigt får svar på spørgsmål om produkter, politikker, IT, processer eller kunder? Så er et internt videnssystem med en egen chatbot ideelt. Takket være Retrieval-Augmented Generation (RAG) er et sådant system smartere end nogensinde: medarbejdere stiller spørgsmål på almindeligt sprog, og chatbottet søger direkte i jeres egen dokumentation. Dette kan gøres helt sikkert, uden at data lækkes til eksterne parter – selv hvis du bruger store sprogmodeller fra OpenAI eller Google.

Hvad er RAG, og hvorfor virker det så godt?

RAG betyder, at en AI-chatbot først søger i din egen videnskilde (dokumenter, wiki’er, manualer, politikker) og derefter genererer et svar. Dette resulterer i:

• Svaret stemmer altid overens med den interne virkelighed

• Der gives ingen opdigtede svar (som det nogle gange sker med rene LLM’er)

• Fortrolige data deles aldrig med omverdenen

Hvilke værktøjer kan du bruge?

Du kan oprette dit eget videnssystem med forskellige produkter, afhængigt af dine præferencer og krav til privatliv, skalerbarhed og brugervenlighed.

Chatbot og RAG-frameworks

• LlamaIndex (llamaindex.ai) – Open source, bredt anvendelig

• Haystack (haystack.deepset.ai) – Stærk inden for enterprise search

• LangChain (langchain.com) – Kraftfuld til integrationer og tilpasning

• OpenWebUI (open-webui.github.io) – Enkel, moderne webinterface til chat og administration

Vektordatabaser (til dokumentlagring og hurtig søgning)

• ChromaDB (trychroma.com)

• Weaviate (weaviate.io)

• Qdrant (qdrant.tech)

AI-modeller

• Store modeller i skyen

  • OpenAI GPT-4

  • Google Gemini

  • Azure OpenAI Service

• Egne modeller (on-premises eller privat sky)

  • Llama 3 (Meta), Mistral, DeepSeek, GPT4All, via Ollama eller LocalAI

Vigtigt:
Mange værktøjer, herunder OpenWebUI og LlamaIndex, kan forbinde både lokale (on-premises) og cloudmodeller. Dine dokumenter og søgninger forlader aldrig din egen infrastruktur, medmindre du ønsker det!

Sådan tilføjer du nemt dokumenter

De fleste moderne videnssystemer tilbyder en simpel upload- eller synkroniseringsfunktion.
Dette fungerer f.eks. således:

1. Upload dine dokumenter (PDF, Word, txt, e-mails, wiki-sider) via webinterfacet (som OpenWebUI)

2. Automatisk behandling: Værktøjet indekserer dit dokument og gør det straks søgbart for chatbottet

3. Live opdatering: Tilføjer du en ny fil? Så bliver den normalt inkluderet i svarene inden for få sekunder eller minutter

For øvede:
Automatiske forbindelser til SharePoint, Google Drive, Dropbox eller en filserver er mulige med LlamaIndex eller Haystack.

Data forbliver sikker og intern

Uanset om du vælger egne modeller eller store cloudmodeller:

• Du bestemmer selv, hvad der må og ikke må gå ud

• Integration med Single Sign-On og adgangsstyring er standard muligt

• Audit trails: hvem har konsulteret hvad?

For følsomme oplysninger anbefales det at bruge AI-modeller on-premises eller inden for en privat sky. Men selv hvis du bruger GPT-4 eller Gemini, kan du indstille, at dine dokumenter aldrig bruges som træningsdata eller permanent gemmes af udbyderen.

Eksempel på en moderne opsætning

Med OpenWebUI bygger du nemt et sikkert, internt videnssystem, hvor medarbejdere kan stille spørgsmål til specialiserede chatbots. Du kan uploade dokumenter, organisere dem efter kategori og lade forskellige chatbots agere som eksperter inden for deres eget fagområde. Her kan du læse hvordan!

1. Tilføj og kategoriser indhold

Upload af dokumenter

• Log ind på OpenWebUI via din browser.

• Gå til sektionen Dokumenter eller Knowledge Base.

• Klik på Upload og vælg dine filer (PDF, Word, tekst osv.).

• Tip: Tilføj en kategori eller et mærke ved upload, f.eks. “HR”, “Teknik”, “Salg”, “Politik” osv.

Fordel: Ved at kategorisere kan den rette chatbot (ekspert) fokusere på relevante kilder, og du får altid et passende svar.

2. Chatbots med egne specialer (roller)

OpenWebUI gør det muligt at oprette flere chatbots, hver med sit eget speciale eller rolle. Eksempler:

• HR-Bot: Spørgsmål om ferie, kontrakter, ansættelsesvilkår.

• IT-Support: Hjælp til adgangskoder, applikationer, hardware.

• PolitikBot: Svar om virksomhedspolitikker og compliance.

• SalesCoach: Information om produkter, priser og tilbud.

Kom i gang med det samme eller foretrækker du hjælp?

Vil du hurtigt køre en proof-of-concept? Med f.eks. OpenWebUI og LlamaIndex har du ofte en demo online på en eftermiddag!
Vil du sætte det professionelt op, integrere det med din eksisterende IT, eller skal det være helt sikkert?
NetCare hjælper med hvert skridt: fra valg af løsning til implementering, integration og træning.

Kontakt os for en uforpligtende samtale eller demo.

NetCare – Din guide til AI, viden og digital sikkerhed