MIT-hold lærer AI-modeller det, de endnu ikke vidste.
Anvendelsen af kunstig intelligens (AI) vokser hurtigt og bliver stadigt mere flettet sammen med vores daglige liv og brancher med store indsatser som sundhedssektoren, telekommunikation og energi. Men med stor magt følger også et stort ansvar: AI-systemer begår nogle gange fejl eller giver usikre svar, som kan få store konsekvenser.
Hvorfor er dette så vigtigt?
Mange AI-modeller, selv avancerede, kan nogle gange udvise såkaldte 'hallucinationer' – de giver fejlagtige eller ufunderede svar. I sektorer, hvor beslutninger vejer tungt, såsom medicinsk diagnosticering eller autonom kørsel, kan dette få katastrofale følger. Themis AI har udviklet Capsa, en platform der anvender 'uncertainty quantification': den måler og kvantificerer usikkerheden ved AI-resultater på en detaljeret og pålidelig måde.
Hvordan fungerer det?
Ved at bibringe modeller usikkerhedsbevidsthed (uncertainty awareness) kan de forsyne resultater med et risiko- eller pålidelighedsmærkat. For eksempel: en selvkørende bil kan angive, at den er usikker på en given situation og derfor aktivere menneskelig indgriben. Dette øger ikke blot sikkerheden, men også brugernes tillid til AI-systemer.
- Ved integration med PyTorch foregår omslutningen (wrapping) af modellen via
capsa_torch.wrapper()hvor outputtet består af både forudsigelsen og risikoen:
For NetCare og vores kunder betyder denne teknologi et enormt skridt fremad. Vi kan levere AI-applikationer, der ikke kun er intelligente, men også sikre og mere forudsigelige med mindre risiko for hallucinationer. Det hjælper organisationer med at træffe bedre funderede beslutninger og reducere risici ved implementering af AI i forretningskritiske applikationer.
Konklusion
MIT-holdet hold viser, at fremtiden for AI ikke kun handler om at blive klogere, men frem for alt også om at fungere mere sikkert og fair. Hos NetCare tror vi på, at AI først for alvor bliver værdifuld, når den er transparent omkring sine egne begrænsninger. Med avancerede værktøjer til kvantificering af usikkerheid som Capsa kan du også omsætte denne vision til praksis.
