Une équipe du MIT enseigne aux modèles d'IA ce qu'ils ignoraient encore.
L'application de l'intelligence artificielle (IA) progresse rapidement et s'intègre de plus en plus dans notre quotidien ainsi que dans des secteurs à haut risque tels que la santé, les télécommunications et l'énergie. Cependant, un grand pouvoir implique de grandes responsabilités : les systèmes d'IA commettent parfois des erreurs ou fournissent des réponses incertaines qui peuvent avoir de lourdes conséquences.
Pourquoi est-ce si important ?
De nombreux modèles d'IA, même sophistiqués, peuvent parfois présenter des « hallucinations » : ils fournissent des réponses erronées ou non fondées. Dans des secteurs où les décisions ont un poids considérable, comme le diagnostic médical ou la conduite autonome, cela peut avoir des conséquences désastreuses. Themis AI a développé Capsa, une plateforme qui applique la quantification de l'incertitude : elle mesure et quantifie l'incertitude des résultats de l'IA de manière détaillée et fiable.
Comment cela fonctionne-t-il ?
En dotant les modèles d'une conscience de l'incertitude, il est possible d'associer leurs prédictions à un label de risque ou de fiabilité. Par exemple, une voiture autonome peut indiquer qu'elle n'est pas sûre d'une situation et déclencher ainsi une intervention humaine. Cela renforce non seulement la sécurité, mais aussi la confiance des utilisateurs dans les systèmes d'IA.
- Lors de l'intégration avec PyTorch, l'encapsulation (wrapping) du modèle s'effectue via
capsa_torch.wrapper()où la sortie se compose à la fois de la prédiction et du risque :
Pour NetCare et ses clients, cette technologie représente un énorme bond en avant. Nous pouvons fournir des applications d'IA qui sont non seulement intelligentes, mais aussi sûres, plus prévisibles et présentant moins de risques d'hallucinations. Cela aide les organisations à prendre des décisions mieux fondées et à réduire les risques lors du déploiement de l'IA dans des applications critiques.
Conclusion
Le équipe du MIT montre que l'avenir de l'IA ne consiste pas seulement à devenir plus intelligente, mais surtout à fonctionner de manière plus sûre et plus équitable. Chez NetCare, nous sommes convaincus qu'une IA ne devient véritablement précieuse que lorsqu'elle est transparente quant à ses propres limites. Grâce à des outils de quantification de l'incertitude avancés tels que Capsa, vous pouvez concrétiser cette vision.
