MIT-team lærer AI-modeller det de ikke visste fra før
Bruken av kunstig intelligens (AI) vokser raskt og blir stadig mer sammenvevd med vårt daglige liv og kritiske bransjer som helsevesen, telekom og energi. Men med stor kraft følger også stort ansvar: AI-systemer gjør av og til feil eller gir usikre svar som kan få store konsekvenser.
MITs Themis AI, medgrunnlagt og ledet av professor Daniela Rus fra CSAIL-laboratoriet, tilbyr en banebrytende løsning. Teknologien deres gjør det mulig for AI-modeller å ‘vite hva de ikke vet’. Dette betyr at AI-systemer selv kan indikere når de er usikre på sine prediksjoner, noe som kan forhindre feil før de forårsaker skade.
Hvorfor er dette så viktig?
Mange AI-modeller, selv avanserte, kan av og til vise såkalte ‘hallusinasjoner—de gir feilaktige eller ubegrunnede svar. I sektorer der beslutninger har stor vekt, som medisinsk diagnostikk eller selvkjørende teknologi, kan dette få katastrofale følger. Themis AI utviklet Capsa, en plattform som anvender usikkerhetskvantifisering (uncertainty quantification): den måler og kvantifiserer usikkerheten i AI-resultater på en detaljert og pålitelig måte.
Hvordan fungerer det?
Ved å gi modeller bevissthet om usikkerhet, kan de utstyres med en risiko- eller pålitelighetsmerkelapp for sine resultater. For eksempel kan en selvkjørende bil indikere at den er usikker på en situasjon og dermed utløse menneskelig inngripen. Dette øker ikke bare sikkerheten, men også brukernes tillit til AI-systemer.
- Ved integrasjon med PyTorch innebærer innpakningen av modellen via
capsa_torch.wrapper()hvor outputen består av både prediksjonen og risikoen:
For NetCare og deres kunder representerer denne teknologien et enormt fremskritt. Vi kan levere KI-applikasjoner som ikke bare er intelligente, men også trygge og mer forutsigbare med mindre risiko for hallusinasjoner. Det hjelper organisasjoner med å ta bedre informerte beslutninger og redusere risikoen ved implementering av KI i forretningskritiske applikasjoner.
Konklusjon
MIT Team viser at fremtiden for KI ikke bare handler om å bli smartere, men fremfor alt om å fungere tryggere og mer rettferdig. Hos NetCare tror vi at KI først blir virkelig verdifull når den er transparent om sine egne begrensninger. Med avanserte verktøy for usikkerhetskvantifisering som Capsa, kan du også omsette denne visjonen i praksis.
