Une équipe du MIT apprend aux modèles d’IA ce qu’ils ne savaient pas encore.
L’utilisation de l’intelligence artificielle (IA) connaît une croissance rapide et s’intègre de plus en plus à notre quotidien ainsi qu’à des secteurs critiques tels que la santé, les télécommunications et l’énergie. Mais un grand pouvoir implique aussi de grandes responsabilités : les systèmes d’IA commettent parfois des erreurs ou fournissent des réponses incertaines qui peuvent avoir de lourdes conséquences.
Pourquoi est-ce si important ?
De nombreux modèles d’IA, même parmi les plus avancés, peuvent parfois produire ce que l’on appelle des « hallucinations » : ils fournissent des réponses erronées ou infondées. Dans les secteurs où les décisions revêtent une grande importance, comme le diagnostic médical ou la conduite autonome, cela peut avoir des conséquences désastreuses. Themis AI a développé Capsa, une plateforme qui applique la quantification de l’incertitude : elle mesure et quantifie l’incertitude des résultats de l’IA de manière détaillée et fiable.
Comment cela fonctionne-t-il ?
En dotant les modèles d’une conscience de l’incertitude, il est possible d’associer aux résultats une indication de risque ou de fiabilité. Par exemple, une voiture autonome peut signaler qu’elle n’est pas certaine de la situation et déclencher ainsi une intervention humaine. Cela renforce non seulement la sécurité, mais aussi la confiance des utilisateurs dans les systèmes d’IA.
- Lors de l’intégration avec PyTorch, l’encapsulation du modèle s’effectue via
capsa_torch.wrapper()la sortie se composant à la fois de la prédiction et du risque :
Pour NetCare et ses clients, cette technologie représente une avancée majeure. Nous pouvons fournir des applications d’IA qui sont non seulement intelligentes, mais aussi plus sûres et plus prévisibles, avec un risque réduit d’hallucinations. Elle aide les organisations à prendre des décisions mieux étayées et à réduire les risques liés à l’introduction de l’IA dans des applications critiques pour l’entreprise.
Conclusion
Le MIT équipe montre que l’avenir de l’IA ne consiste pas seulement à devenir plus intelligente, mais surtout à fonctionner de manière plus sûre et plus équitable. Chez NetCare, nous pensons que l’IA ne devient réellement utile que lorsqu’elle fait preuve de transparence quant à ses propres limites. Grâce à des outils avancés de quantification de l’incertitude tels que Capsa, vous pouvez également concrétiser cette vision.
