MIT-team lærer AI-modeller hva de ikke visste ennå.

Anvendelsen av kunstig intelligens (KI) vokser raskt og blir stadig mer sammenvevd med vårt daglige liv og høyinnsatsindustrier som helsevesen, telekom og energi. Men med stor makt følger også stort ansvar: KI-systemer gjør noen ganger feil eller gir usikre svar som kan få store konsekvenser.

MITs Themis AI, medstiftet og ledet av professor Daniela Rus fra CSAIL-laboratoriet, tilbyr en banebrytende løsning. Deres teknologi gjør det mulig for KI-modeller å «vite hva de ikke vet». Dette betyr at KI-systemer selv kan indikere når de er usikre på sine spådommer, noe som kan forhindre feil før de forårsaker skade.

Hvorfor er dette så viktig?
Mange KI-modeller, selv avanserte, kan noen ganger vise såkalte «hallusinasjoner» – de gir feilaktige eller ubegrunnede svar. I sektorer der beslutninger veier tungt, som medisinsk diagnose eller autonom kjøring, kan dette få katastrofale konsekvenser. Themis AI utviklet Capsa, en plattform som anvender usikkerhetskvantifisering: den måler og kvantifiserer usikkerheten i KI-utdata på en detaljert og pålitelig måte.

 Hvordan fungerer det?
Ved å gi modellene usikkerhetsbevissthet kan de gi utdata med en risiko- eller pålitelighetsetikett. For eksempel: en selvkjørende bil kan indikere at den er usikker på en situasjon og derfor aktivere menneskelig intervensjon. Dette øker ikke bare sikkerheten, men også brukernes tillit til KI-systemer.

Konklusjon
MIT teamet viser at fremtiden for KI ikke bare handler om å bli smartere, men fremfor alt om å fungere tryggere og mer rettferdig. Hos NetCare tror vi at KI først blir virkelig verdifull når den er transparent om sine egne begrensninger. Med avanserte verktøy for usikkerhetskvantifisering som Capsa kan du også sette denne visjonen ut i praksis.