Et internt videnssystem med AI

Ønsker du, at kolleger hurtigt får svar på spørgsmål om produkter, politikker, IT, processer eller kunder? Så er et internt videnssystem med din egen chatbot ideelt. Takket være Retrieval-Augmented Generation (RAG) er et sådant system klogere end nogensinde: Medarbejdere stiller spørgsmål i almindeligt sprog, og chatbott'en søger direkte i jeres egen dokumentation. Dette kan ske fuldstændig sikkert, uden at data lækkes til eksterne parter – selv hvis I bruger store sprogmodeller fra OpenAI eller Google.

• Stemmer svaret altid overens med den interne virkelighed
• Ingen fabrikationer gives (som det undertiden ses med rene LLM'er)
• Fortrolige data deles aldrig med omverdenen

Hvilke værktøjer?

Opsætning af et eget videnssystem kan gøres med forskellige produkter, afhængigt af dine præferencer og krav til privatliv, skalerbarhed og brugervenlighed.

Chatbot & RAG

• LlamaIndex (llamaindex.ai) – Open source, bred anvendelighed
• Haystack (haystack.deepset.ai) – Stærk i enterprise search
• LangChain (langchain.com) – Kraftfuld til integrationer og tilpasning
• OpenWebUI (open-webui.github.io) – Simpelt, moderne webinterface til chat og administration

Vektordatabaser

• ChromaDB (trychroma.com)
• Weaviate (weaviate.io)
• Qdrant (qdrant.tech)

AI-modeller

• Store modeller i skyen
  • OpenAI GPT-4
  • Google Gemini
  • Azure OpenAI Service

• Egne modeller
  • Llama 3 (Meta), Mistral, DeepSeek, GPT4All, via Ollama eller LocalAI

Vigtigt:
Mange værktøjer, herunder OpenWebUI og LlamaIndex, kan forbinde både lokale (on-premises) og cloud-modeller. Dine dokumenter og søgninger forlader aldrig din egen infrastruktur, medmindre du ønsker det!

Tilføj nemt dokumenter

De fleste moderne videnssystemer tilbyder en simpel upload- eller synkroniseringsfunktion.
Dette fungerer for eksempel således:

1. Upload dine dokumenter (PDF, Word, txt, e-mails, wiki-sider) via webgrænsefladen (som OpenWebUI)
2. Automatisk behandling: Værktøjet indekserer dit dokument og gør det øjeblikkeligt søgbart for chatrobotten
3. Liveopdatering: Hvis du tilføjer en ny fil, vil den normalt blive inkluderet i svarene inden for få sekunder eller minutter

Avancerede:
Automatiske forbindelser til SharePoint, Google Drive, Dropbox eller en filserver er fuldt ud mulige med LlamaIndex eller Haystack.

Data forbliver sikkert

Uanset om I vælger egne modeller eller store cloudmodeller:

• Du bestemmer selv, hvad der må komme ud, og hvad der ikke må
• Integration med Single Sign-On og adgangsstyring er standardmuligt
• Revisionsspor: hvem har tilgået hvad?

Ved følsomme oplysninger anbefales det at anvende AI-modeller on-premises eller inden for en privat cloud. Men selv hvis I benytter GPT-4 eller Gemini, kan I indstille, at jeres dokumenter aldrig bruges som træningsdata eller permanent gemmes af udbyderen.

Eksempel på moderne opsætning

Med OpenWebUI kan I nemt opbygge et sikkert, internt videnssystem, hvor medarbejdere kan stille spørgsmål til specialiserede chatbots. I kan uploade dokumenter, organisere dem efter kategori og lade forskellige chatbots fungere som eksperter inden for deres respektive fagområder. Læs mere her!

1. Indhold og kategorisering

Dokumentupload

• Log ind på OpenWebUI via din browser.
• Gå til sektionen Dokumenter eller Vidensbase.
• Klik på Upload og vælg dine filer (PDF, Word, tekst osv.).
• Tip: Tilføj en kategori eller et mærke ved upload, f.eks. "HR", "Teknik", "Salg", "Politik" osv.

FordelVed at kategorisere kan den korrekte chatbot (ekspert) fokusere på relevante kilder, og du får altid et passende svar.

Specialiserede Chatbots

OpenWebUI gør det muligt at oprette flere chatbots, hver med sit eget speciale eller rolle. Eksempler:

• HR-Bot: Spørgsmål om orlov, kontrakter, ansættelsesvilkår.
• IT-Support: Hjælp til adgangskoder, applikationer, hardware.
• PolitikBot: Svar om virksomhedspolitik og compliance.
• Salgscoach: Information om produkter, priser og tilbud.

Kom nu in actie?

Ønsker du hurtigt at køre et proof-of-concept? Med for eksempel OpenWebUI Med LlamaIndex kan du ofte have en demo online på én eftermiddag!
Ønsker du professionel opsætning, integration med din eksisterende IT, eller skal det være fuldt ud sikkert?
NetCare hjælper med hvert skridt: fra valgvejledning til implementering, integration og træning.

Kontakt til en uforpligtende rådgivningssamtale eller demo.

NetCare – Din guide til AI, viden og digital sikkerhed