MIT-teamet lär AI-modeller det de ännu inte visste.
Tillämpningen av artificiell intelligens (AI) växer snabbt och blir alltmer sammanflätad med våra dagliga liv och högriskbranscher som hälsovård, telekom och energi. Men med stor kraft kommer också stort ansvar: AI-system gör ibland fel eller ger osäkra svar som kan få stora konsekvenser.
MIT:s Themis AI, medgrundat och lett av professor Daniela Rus från CSAIL-labbet, erbjuder en banbrytande lösning. Deras teknik gör det möjligt för AI-modeller att ‘veta vad de inte vet’. Detta innebär att AI-system själva kan indikera när de är osäkra på sina förutsägelser, vilket kan förhindra fel innan de orsakar skada.
Varför är detta så viktigt?
Många AI-modeller, även avancerade, kan ibland uppvisa så kallade “hallucinationer” – de ger felaktiga eller ogrundade svar. Inom sektorer där beslut har stor vikt, som medicinsk diagnos eller autonom körning, kan detta få katastrofala följder. Themis AI utvecklade Capsa, en plattform som tillämpar osäkerhetskvantifiering (uncertainty quantification): den mäter och kvantifierar osäkerheten i AI-utdata på ett detaljerat och tillförlitligt sätt.
Hur fungerar det?
Genom att ge modeller medvetenhet om osäkerhet kan de utdata förses med en risk- eller tillförlitlighetsetikett. Till exempel kan en självkörande bil indikera att den är osäker på en situation och därför aktivera mänsklig intervention. Detta ökar inte bara säkerheten utan även användarnas förtroende för AI-system.
- Vid integrering med PyTorch sker inpackningen av modellen via
capsa_torch.wrapper()där resultatet består av både förutsägelsen och risken:
För NetCare och dess kunder innebär denna teknik ett enormt steg framåt. Vi kan leverera AI-applikationer som inte bara är intelligenta, utan också säkra och mer förutsägbara med mindre risk för hallucinationer. Det hjälper organisationer att fatta mer välgrundade beslut och minska riskerna vid implementering av AI i affärskritiska applikationer.
Slutsats
MIT Team visar att framtiden för AI inte bara handlar om att bli smartare, utan framför allt om att fungera säkrare och rättvisare. På NetCare tror vi att AI bara blir verkligt värdefullt när det är transparent med sina egna begränsningar. Med avancerade verktyg för osäkerhetskvantifiering som Capsa kan ni omsätta den visionen i praktiken.
