MIT-team lär AI-modeller vad de inte visste än.

Användningen av artificiell intelligens (AI) växer snabbt och blir alltmer sammanvävd med vårt dagliga liv och högriskbranscher som hälso- och sjukvård, telekom och energi. Men med stor kraft följer också stort ansvar: AI-system gör ibland misstag eller ger osäkra svar som kan få stora konsekvenser.

Varför är detta så viktigt?
Många AI-modeller, till och med avancerade sådana, kan ibland uppvisa så kallade ”hallucinationer” – de ger felaktiga eller ogrundade svar. Inom sektorer där beslut väger tungt, såsom medicinsk diagnostik eller självkörande bilar, kan detta få katastrofala följder. Themis AI har utvecklat Capsa, en plattform som tillämpar uncertainty quantification (osäkerhetskvantifiering): den mäter och kvantifierar osäkerheten i AI-utdata på ett detaljerat och pålitligt sätt.

 Hur fungerar det?
Genom att lära modeller osäkerhetsmedvetenhet (uncertainty awareness) kan de förse utdata med en risk- eller tillförlitlighetsetikett. Till exempel kan en självkörande bil indikera att den är osäker på en situation och därför aktivera mänsklig intervention. Detta ökar inte bara säkerheten, utan också användarnas förtroende för AI-system.

Slutsats
MIT team visar att framtiden för AI inte bara handlar om att bli smartare, utan framför allt om att fungera säkrare och mer ansvarsfullt. På NetCare tror vi att AI blir på riktigt värdefullt först när det är transparent kring sina egna begränsningar. Med avancerade verktyg för osäkerhetskvantifiering som Capsa kan du omsätta den visionen i praktiken.