L'équipe du MIT apprend aux modèles d'IA ce qu'ils ignoraient encore.
L'application de l'intelligence artificielle (IA) progresse rapidement et s'entremêle de plus en plus avec notre vie quotidienne et les secteurs critiques tels que la santé, les télécommunications et l'énergie. Mais qui dit grande puissance, dit grande responsabilité : les systèmes d'IA commettent parfois des erreurs ou fournissent des réponses incertaines qui peuvent avoir des conséquences majeures.
Themis AI du MIT, co-fondée et dirigée par la professeure Daniela Rus du laboratoire CSAIL, propose une solution révolutionnaire. Leur technologie permet aux modèles d'IA de « savoir ce qu'ils ne savent pas ». Cela signifie que les systèmes d'IA peuvent eux-mêmes signaler leur incertitude quant à leurs prédictions, permettant ainsi d'éviter les erreurs avant qu'elles ne causent des dommages.
Pourquoi est-ce si important ?
De nombreux modèles d'IA, même les plus avancés, peuvent parfois présenter des « hallucinations » – ils fournissent des réponses erronées ou infondées. Dans les secteurs où les décisions ont un poids considérable, comme le diagnostic médical ou la conduite autonome, cela peut avoir des conséquences désastreuses. Themis AI a développé Capsa, une plateforme qui applique la quantification de l'incertitude (uncertainty quantification) : elle mesure et quantifie l'incertitude des résultats de l'IA de manière détaillée et fiable.
Comment ça marche ?
En dotant les modèles d'une conscience de l'incertitude, il est possible d'assortir leurs sorties d'une étiquette de risque ou de fiabilité. Par exemple, une voiture autonome peut indiquer qu'elle n'est pas certaine d'une situation et activer ainsi une intervention humaine. Cela augmente non seulement la sécurité, mais aussi la confiance des utilisateurs dans les systèmes d'IA.
- Lors de l'intégration avec PyTorch, l'encapsulation du modèle se fait via
capsa_torch.wrapper()où la sortie se compose à la fois de la prédiction et du risque :
Pour NetCare et ses clients, cette technologie représente un pas en avant considérable. Nous pouvons fournir des applications d'IA qui ne sont pas seulement intelligentes, mais aussi sûres et plus prévisibles, avec moins de risques d'hallucinations. Cela aide les organisations à prendre des décisions mieux étayées et à réduire les risques lors de l'intégration de l'IA dans des applications critiques pour l'entreprise.
Conclusion
Le MIT équipe démontre que l'avenir de l'IA ne consiste pas seulement à devenir plus intelligent, mais surtout à fonctionner de manière plus sûre et plus équitable. Chez NetCare, nous croyons que l'IA n'acquiert une réelle valeur que lorsqu'elle est transparente sur ses propres limites. Avec des outils avancés de quantification de l'incertitude comme Capsa, vous pouvez également concrétiser cette vision.
