Ett internt kunskapssystem med AI

Vill du att kollegor snabbt ska få svar på frågor om produkter, policy, IT, processer eller kunder? Då är ett internt kunskapssystem med en egen chatbot idealiskt. Tack vare Retrieval-Augmented Generation (RAG) är ett sådant system smartare än någonsin: medarbetare ställer frågor i vanligt språk och chatboten söker direkt i er egen dokumentation. Detta kan göras helt säkert, utan att data läcker till externa parter – även om ni använder stora språkmodeller från OpenAI eller Google.

Vad är RAG och varför fungerar det så bra?

RAG innebär att en AI-chatbot först söker i din egen kunskapskälla (dokument, wikis, manualer, policyer) och sedan genererar ett svar. Detta resulterar i att:

• Svaret alltid stämmer överens med den interna verkligheten

• Inga påhitt ges (som ibland med rena LLM:er)

• Konfidentiell information aldrig delas med omvärlden

Vilka verktyg kan du använda?

Att sätta upp ett eget kunskapssystem kan göras med olika produkter, beroende på dina preferenser och krav på integritet, skalbarhet och användarvänlighet.

Chatbot och RAG-ramverk

• LlamaIndex (llamaindex.ai) – Öppen källkod, brett tillämpligt

• Haystack (haystack.deepset.ai) – Starkt inom företagssökning

• LangChain (langchain.com) – Kraftfullt för kopplingar och anpassning

• OpenWebUI (open-webui.github.io) – Enkelt, modernt webbgränssnitt för chatt och administration

Vektordatabaser (för dokumentlagring och snabb sökfunktion)

• ChromaDB (trychroma.com)

• Weaviate (weaviate.io)

• Qdrant (qdrant.tech)

AI-modeller

• Stora modeller i molnet

  • OpenAI GPT-4

  • Google Gemini

  • Azure OpenAI Service

• Egna modeller (on-premises eller privat moln)

  • Llama 3 (Meta), Mistral, DeepSeek, GPT4All, via Ollama eller LocalAI

Viktigt:
Många verktyg, inklusive OpenWebUI och LlamaIndex, kan koppla både lokala (on-premises) och molnmodeller. Dina dokument och sökningar lämnar aldrig din egen infrastruktur, om du inte vill det!

Så lägger du enkelt till dokument

De flesta moderna kunskapssystem erbjuder en enkel uppladdnings- eller synkroniseringsfunktion.
Detta fungerar till exempel så här:

1. Ladda upp dina dokument (PDF, Word, txt, e-post, wiki-sidor) via webbgränssnittet (som OpenWebUI)

2. Automatisk bearbetning: Verktyget indexerar ditt dokument och gör det omedelbart sökbart för chatboten

3. Liveuppdatering: Lägger du till en ny fil? Då tas detta oftast med i svaren inom några sekunder eller minuter

För avancerade:
Automatiska kopplingar till SharePoint, Google Drive, Dropbox eller en filserver är fullt möjliga med LlamaIndex eller Haystack.

Data förblir säker och intern

Oavsett om du väljer egna modeller eller stora molnmodeller:

• Du bestämmer själv vad som går ut och inte

• Integration med Single Sign-On och åtkomstkontroll är standard

• Audit trails: vem har konsulterat vad?

För känslig information rekommenderas att använda AI-modeller on-premises eller inom ett privat moln. Men även om du använder GPT-4 eller Gemini kan du ställa in att dina dokument aldrig används som träningsdata eller permanent lagras av leverantören.

Exempel på en modern uppsättning

Med OpenWebUI bygger du enkelt ett säkert, internt kunskapssystem där medarbetare kan ställa frågor till specialiserade chatbots. Du kan ladda upp dokument, organisera dem per kategori och låta olika chatbots agera som experter inom sina egna områden. Här läser du hur!

1. Lägg till och kategorisera innehåll

Ladda upp dokument

• Logga in på OpenWebUI via din webbläsare.

• Gå till avsnittet Dokument eller Kunskapsbas.

• Klicka på Ladda upp och välj dina filer (PDF, Word, text, etc).

• Tips: Lägg till en kategori eller etikett vid uppladdningen, som “HR”, “Teknik”, “Försäljning”, “Policy”, etc.

Fördel: Genom att kategorisera kan rätt chatbot (expert) fokusera på relevanta källor och du får alltid ett passande svar.

2. Chatbots med egna specialiteter (roller)

OpenWebUI gör det möjligt att skapa flera chatbots, var och en med sin egen specialitet eller roll. Exempel:

• HR-Bot: Frågor om ledighet, kontrakt, anställningsvillkor.

• IT-Support: Hjälp med lösenord, applikationer, hårdvara.

• PolicyBot: Svar om företagspolicy och efterlevnad.

• SalesCoach: Information om produkter, priser och offerter.

Kom igång direkt eller föredrar du hjälp?

Vill du snabbt köra en proof-of-concept? Med till exempel OpenWebUI och LlamaIndex har du ofta en demo online på en eftermiddag!
Vill du sätta upp det professionellt, koppla det till din befintliga IT, eller måste det vara riktigt säkert?
NetCare hjälper till i varje steg: från valhjälp till implementering, integration och utbildning.

Kontakta oss för en kostnadsfri konsultation eller demo.

NetCare – Din guide inom AI, kunskap och digital säkerhet