MIT-team lærer AI-modeller, hvad de ikke vidste i forvejen.

Anvendelsen af kunstig intelligens (AI) vokser hurtigt og bliver stadig mere sammenflettet med vores dagligdag og højrisikobrancher som sundhedspleje, telekommunikation og energi. Men med stor magt følger også stort ansvar: AI-systemer begår nogle gange fejl eller giver usikre svar, der kan have store konsekvenser.

MIT’s Themis AI, medstiftet og ledet af professor Daniela Rus fra CSAIL-laboratoriet, tilbyder en banebrydende løsning. Deres teknologi gør det muligt for AI-modeller at ‘vide, hvad de ikke ved’. Det betyder, at AI-systemer selv kan angive, når de er usikre på deres forudsigelser, hvilket kan forhindre fejl, før de forårsager skade.

Hvorfor er dette så vigtigt?
Mange AI-modeller, selv avancerede, kan nogle gange udvise såkaldte ‘hallucinationer’ – de giver forkerte eller ubegrundede svar. I sektorer, hvor beslutninger vejer tungt, såsom medicinsk diagnose eller autonom kørsel, kan dette have katastrofale konsekvenser. Themis AI udviklede Capsa, en platform, der anvender uncertainty quantification: den måler og kvantificerer usikkerheden i AI-output på en detaljeret og pålidelig måde.

 Hvordan virker det?
Ved at give modeller uncertainty awareness kan de forsyne outputs med en risiko- eller pålidelighedsetiket. For eksempel kan en selvkørende bil angive, at den er usikker på en situation og derfor aktivere en menneskelig intervention. Dette øger ikke kun sikkerheden, men også brugernes tillid til AI-systemer.

Konklusion
MIT teamet viser, at fremtiden for AI ikke kun handler om at blive smartere, men især også om at fungere mere sikkert og retfærdigt. Hos NetCare mener vi, at AI først bliver rigtig værdifuld, når den er gennemsigtig omkring sine egne begrænsninger. Med avancerede uncertainty quantification-værktøjer som Capsa kan du også omsætte den vision til praksis.