Il team del MIT insegna ai modelli di IA ciò che ancora non sanno.
L'applicazione dell'intelligenza artificiale (IA) cresce rapidamente e si intreccia sempre più con la nostra vita quotidiana e con settori ad alto rischio come la sanità, le telecomunicazioni e l'energia. Ma da grandi poteri derivano grandi responsabilità: i sistemi di IA a volte commettono errori o forniscono risposte incerte che possono avere conseguenze rilevanti.
Perché questo è così importante?
Molti modelli di IA, persino quelli avanzati, possono talvolta mostrare le cosiddette 'allucinazioni': forniscono risposte errate o prive di fondamento. In settori in cui le decisioni hanno un peso notevole, come la diagnostica medica o la guida autonoma, questo può avere conseguenze disastrose. Themis AI ha sviluppato Capsa, una piattaforma che applica la quantificazione dell'incertezza (uncertainty quantification): misura e quantifica l'incertezza dell'output dell'IA in modo dettagliato e affidabile.
Come funziona?
Insegnando ai modelli la consapevolezza dell'incertezza (uncertainty awareness), è possibile dotare gli output di un'etichetta di rischio o affidabilità. Ad esempio: un'auto a guida autonoma può indicare di non essere sicura riguardo a una situazione e attivare pertanto un intervento umano. Questo non solo aumenta la sicurezza, ma anche la fiducia degli utenti nei sistemi di intelligenza artificiale.
- In caso di integrazione con PyTorch, il wrapping del modello avviene tramite
capsa_torch.wrapper()in cui l'output è costituito sia dalla previsione che dal rischio:
Per NetCare e i suoi clienti, questa tecnologia rappresenta un enorme passo avanti. Possiamo fornire applicazioni di IA che non sono solo intelligenti, ma anche sicure e più prevedibili, con minori possibilità di allucinazioni. Questo aiuta le organizzazioni a prendere decisioni più informate e a ridurre i rischi durante l'implementazione dell'IA in applicazioni mission-critical.
Conclusione
Il MIT team dimostra che il futuro dell'IA non riguarda solo il diventare più intelligenti, ma soprattutto il funzionare in modo più sicuro ed equo. Noi di NetCare crediamo che l'IA diventi veramente preziosa solo quando è trasparente riguardo ai propri limiti. Con strumenti avanzati di quantificazione dell'incertezza come Capsa, potete tradurre questa visione anche nella pratica.
