Et internt kunnskapssystem med AI

Ønsker du at kolleger raskt skal få svar på spørsmål om produkter, retningslinjer, IT, prosesser eller kunder? Da er et internt kunnskapssystem med egen chatbot ideelt. Takket være Retrieval-Augmented Generation (RAG) er et slikt system smartere enn noensinne: ansatte stiller spørsmål på vanlig språk, og chatboten søker direkte i deres egen dokumentasjon. Dette kan gjøres helt trygt, uten å lekke data til eksterne parter – selv om du bruker store språkmodeller fra OpenAI eller Google.

Hva er RAG og hvorfor fungerer det så bra?

RAG betyr at en AI-chatbot først søker i din egen kunnskapskilde (dokumenter, wiki, manualer, retningslinjer) og deretter genererer et svar. Dette resulterer i:

• Svaret stemmer alltid med den interne virkeligheten

• Ingen oppdiktede svar gis (som noen ganger skjer med rene LLM-er)

• Konfidensiell informasjon deles aldri med omverdenen

Hvilke verktøy kan du bruke?

Du kan sette opp et eget kunnskapssystem med ulike produkter, avhengig av dine preferanser og krav til personvern, skalerbarhet og brukervennlighet.

Chatbot og RAG-rammeverk

• LlamaIndex (llamaindex.ai) – Åpen kildekode, bredt anvendelig

• Haystack (haystack.deepset.ai) – Sterk på enterprise search

• LangChain (langchain.com) – Kraftig for koblinger og tilpasning

• OpenWebUI (open-webui.github.io) – Enkelt, moderne webgrensesnitt for chat og administrasjon

Vektordatabaser (for dokumentlagring og rask søkefunksjon)

• ChromaDB (trychroma.com)

• Weaviate (weaviate.io)

• Qdrant (qdrant.tech)

AI-modeller

• Store modeller i skyen

  • OpenAI GPT-4

  • Google Gemini

  • Azure OpenAI-tjeneste

• Egne modeller (on-premises eller privat sky)

  • Llama 3 (Meta), Mistral, DeepSeek, GPT4All, via Ollama eller LocalAI

Viktig:
Mange verktøy, inkludert OpenWebUI og LlamaIndex, kan koble til både lokale (on-premises) og skybaserte modeller. Dokumentene og søkene dine forlater aldri din egen infrastruktur, med mindre du ønsker det!

Slik legger du enkelt til dokumenter

De fleste moderne kunnskapssystemer tilbyr en enkel opplastings- eller synkroniseringsfunksjon.
Dette fungerer for eksempel slik:

1. Last opp dokumentene dine (PDF, Word, txt, e-poster, wiki-sider) via webgrensesnittet (som OpenWebUI)

2. Automatisk behandling: Verktøyet indekserer dokumentet ditt og gjør det umiddelbart søkbart for chatboten

3. Live oppdatering: Legger du til en ny fil? Da blir denne vanligvis inkludert i svarene innen få sekunder eller minutter

For viderekomne:
Automatiske koblinger med SharePoint, Google Drive, Dropbox eller en filserver er fullt mulig med LlamaIndex eller Haystack.

Data forblir trygge og interne

Enten du velger egne modeller eller store skybaserte modeller:

• Du bestemmer selv hva som går ut og ikke

• Integrasjon med Single Sign-On og tilgangsstyring er standard mulig

• Revisjonsspor: hvem har konsultert hva?

For sensitiv informasjon anbefales det å bruke AI-modeller on-premises eller innenfor en privat sky. Men selv om du bruker GPT-4 eller Gemini, kan du stille inn at dokumentene dine aldri brukes som treningsdata eller lagres permanent av leverandøren.

Eksempel på et moderne oppsett

Med OpenWebUI bygger du enkelt et trygt, internt kunnskapssystem der ansatte kan stille spørsmål til spesialiserte chatbots. Du kan laste opp dokumenter, organisere dem etter kategori og la ulike chatbots fungere som eksperter på sitt eget fagområde. Her leser du hvordan!

1. Legg til og kategoriser innhold

Opplasting av dokumenter

• Logg inn på OpenWebUI via nettleseren din.

• Gå til delen Dokumenter eller Kunnskapsbase.

• Klikk på Last opp og velg filene dine (PDF, Word, tekst, etc).

• Tips: Legg til en kategori eller etikett ved opplasting, som “HR”, “Teknikk”, “Salg”, “Retningslinjer”, etc.

Fordel: Ved å kategorisere kan den riktige chatboten (eksperten) fokusere på relevante kilder, og du får alltid et passende svar.

2. Chatbots med egne spesialiteter (roller)

OpenWebUI gjør det mulig å opprette flere chatbots, hver med sin egen spesialitet eller rolle. Eksempler:

• HR-Bot: Spørsmål om ferie, kontrakter, arbeidsvilkår.

• IT-Support: Hjelp med passord, applikasjoner, maskinvare.

• PolicyBot: Svar om bedriftens retningslinjer og compliance.

• SalesCoach: Informasjon om produkter, priser og tilbud.

Kom i gang med en gang eller ønsker du hjelp?

Vil du raskt kjøre en proof-of-concept? Med for eksempel OpenWebUI og LlamaIndex har du ofte en demo online på en ettermiddag!
Vil du sette det opp profesjonelt, koble det til din eksisterende IT, eller må det være helt trygt?
NetCare hjelper deg i hvert steg: fra valg av løsning til implementering, integrasjon og opplæring.

Ta kontakt for en uforpliktende samtale eller demo.

NetCare – Din guide innen AI, kunnskap og digital sikkerhet