Et internt kunnskapssystem med KI

Ønsker du at kolleger raskt skal få svar på spørsmål om produkter, retningslinjer, IT, prosesser eller kunder? Da er et internt kunnskapssystem med en egen chatbot ideelt. Takket være Retrieval-Augmented Generation (RAG) er et slikt system smartere enn noensinne: ansatte stiller spørsmål på vanlig språk, og chatboten søker direkte i deres egen dokumentasjon. Dette kan gjøres helt sikkert, uten datalekkasje til eksterne parter – selv om dere bruker store språkmodeller fra OpenAI eller Google.

• Stemmer svaret alltid overens med den interne virkeligheten
• Ingen fabrikasjoner blir gitt (slik det noen ganger er med rene LLM-er)
• Konfidensielle data deles aldri med omverdenen

Hvilke verktøy kan du bruke?

Å sette opp et eget kunnskapssystem kan gjøres med ulike produkter, avhengig av dine preferanser og krav til personvern, skalerbarhet og brukervennlighet.

Chatbot og RAG-rammeverk

• LlamaIndex (llamaindex.ai) – Åpen kildekode, bredt anvendelig
• Haystack (haystack.deepset.ai) – Sterk innen bedriftssøk
• LangChain (langchain.com) – Kraftig for koblinger og tilpasning
• OpenWebUI (open-webui.github.io) – Enkelt, moderne webgrensesnitt for chat og administrasjon

Vektordatabaser (for dokumentlagring og raskt søk)

• ChromaDB (trychroma.com)
• Weaviate (weaviate.io)
• Qdrant (qdrant.tech)

AI-modeller

• Store modeller i skyen
  • OpenAI GPT-4
  • Google Gemini
  • Azure OpenAI Service

• Egne modeller (on-premises eller privat sky)
  • Llama 3 (Meta), Mistral, DeepSeek, GPT4All, via Ollama eller LocalAI

Viktig:
Mange verktøy, inkludert OpenWebUI og LlamaIndex, kan koble til både lokale (on-premises) og skybaserte modeller. Dokumentene og søkene dine forlater aldri din egen infrastruktur, med mindre du ønsker det!

Slik legger du enkelt til dokumenter

De fleste moderne kunnskapssystemer tilbyr en enkel opplastings- eller synkroniseringsfunksjon.
Dette fungerer for eksempel slik:

1. Last opp dokumentene dine (PDF, Word, txt, e-poster, wikisider) via nettleser-grensesnittet (som OpenWebUI)
2. Automatisk behandling: Verktøyet indekserer dokumentet ditt og gjør det umiddelbart søkbart for chatboten
3. Direkte oppdatering: Legger du til en ny fil? Da blir den vanligvis inkludert i svarene i løpet av sekunder eller minutter

For viderekomne:
Automatiske koblinger til SharePoint, Google Drive, Dropbox eller en filserver er godt mulig med LlamaIndex eller Haystack.

Data forblir trygg og intern

Enten du velger egne modeller eller store skybaserte modeller:

• Du bestemmer selv hva som skal ut og hva som ikke skal ut
• Integrasjon med Single Sign-On og tilgangsstyring er standard mulig
• Revisjonsspor: hvem har konsultert hva?

For sensitiv informasjon anbefales det å bruke AI-modeller lokalt (on-premises) eller innenfor en privat sky. Men selv om du benytter GPT-4 eller Gemini, kan du konfigurere det slik at dokumentene dine aldri brukes som treningsdata eller lagres permanent av leverandøren.

Eksempel på en moderne oppsett

Med OpenWebUI bygger du enkelt et sikkert, internt kunnskapssystem der ansatte kan stille spørsmål til spesialiserte chatroboter. Du kan laste opp dokumenter, organisere dem etter kategori, og la ulike chatroboter fungere som eksperter innenfor sitt eget fagfelt. Les hvordan her!

1. Legge til og kategorisere innhold

Opplasting av dokumenter

• Logg inn på OpenWebUI via nettleseren din.
• Gå til delen Dokumenter eller Kunnskapsbase.
• Klikk på Opplasting og velg filene dine (PDF, Word, tekst, osv.).
• Tips: Legg til en kategori eller et merke ved opplasting, for eksempel «HR», «Teknologi», «Salg», «Retningslinjer», osv.

Fordel: Ved å kategorisere kan den riktige chatboten (eksperten) fokusere på relevante kilder, og du får alltid et passende svar.

2. Chatboter med egne spesialiteter (roller)

OpenWebUI gjør det mulig å opprette flere chatroboter, hver med sitt eget spesialfelt eller rolle. Eksempler:

• HR-Bot: Spørsmål om permisjon, kontrakter, ansettelsesvilkår.
• IT-Support: Hjelp med passord, applikasjoner, maskinvare.
• PolicyBot: Svar om bedriftspolicy og etterlevelse.
• Salgscoach: Informasjon om produkter, priser og tilbud.

Klar til å starte, eller trenger du hjelp?

Ønsker du raskt å kjøre en proof-of-concept? Med for eksempel OpenWebUI Med LlamaIndex kan du ofte ha en demo klar på én ettermiddag!
Ønsker du profesjonell oppsett, integrasjon med din eksisterende IT, eller kreves det høy sikkerhet?
NetCare hjelper deg med hvert steg: fra valg av løsning til implementering, integrasjon og opplæring.

Ta kontakt for en uforpliktende rådgivningssamtale eller demo.

NetCare – Din guide til KI, kunnskap og digital sikkerhet