MIT-team lærer KI-modeller det de ikke visste fra før.
Bruken av kunstig intelligens (KI) vokser raskt og blir stadig mer flettet inn i hverdagen vår og i kritiske bransjer som helsevesen, telekom og energi. Men med stor makt følger også stort ansvar: KI-systemer gjør av og til feil eller gir usikre svar som kan få store konsekvenser.
Hvorfor er dette så viktig?
Mange KI-modeller, selv avanserte, kan av og til vise såkalte «hallusinasjoner» – de gir feilaktige eller ubegrunnede svar. I sektorer der beslutninger veier tungt, som medisinsk diagnostikk eller autonom kjøring, kan dette få katastrofale følger. Themis AI har utviklet Capsa, en plattform som tar i bruk usikkerhetskvantifisering (uncertainty quantification): den måler og kvantifiserer usikkerheten til KI-utdata på en detaljert og pålitelig måte.
Hvordan fungerer det?
Ved å lære modeller å bli usikkerhetsbevisste (uncertainty awareness), kan de utstyre utdataene med en risiko- eller pålitelighetsetikett. For eksempel: En selvkjørende bil kan indikere at den er usikker på en situasjon og derfor utløse menneskelig inngripen. Dette øker ikke bare sikkerheten, men også brukernes tillit til KI-systemer.
- Ved integrasjon med PyTorch foregår innpakningen (wrapping) av modellen via
capsa_torch.wrapper()der utdataene består av både prognosen og risikoen:
For NetCare og våre kunder betyr denne teknologien et enormt skritt fremover. Vi kan levere KI-applikasjoner som ikke bare er intelligente, men også sikre og mer forutsigbare med mindre sjanse for hallusinasjoner. Det hjelper organisasjoner med å ta bedre begrunnede beslutninger og redusere risikoen ved implementering av KI i virksomhetskritiske applikasjoner.
Konklusjon
MIT team viser at fremtidens KI ikke bare handler om å bli smartere, men fremfor alt om å fungere sikrere og mer rettferdig. Hos NetCare tror vi at KI først blir virkelig verdifull når den er transparent om sine egne begrensninger. Med avanserte verktøy for usikkerhetskvantifisering som Capsa kan du også omsette denne visjonen i praksis.
