L'équipe du MIT apprend aux modèles d'IA ce qu'ils ne savaient pas encore.

L’application de l’intelligence artificielle (IA) se développe rapidement et s’intègre de plus en plus dans notre vie quotidienne et dans des secteurs à enjeux élevés tels que la santé, les télécommunications et l’énergie. Mais avec un grand pouvoir vient une grande responsabilité : les systèmes d’IA font parfois des erreurs ou donnent des réponses incertaines qui peuvent avoir des conséquences majeures.

Themis AI du MIT, cofondé et dirigé par la professeure Daniela Rus du laboratoire CSAIL, offre une solution révolutionnaire. Leur technologie permet aux modèles d’IA de « savoir ce qu’ils ne savent pas ». Cela signifie que les systèmes d’IA peuvent indiquer eux-mêmes quand ils sont incertains quant à leurs prédictions, ce qui permet d’éviter les erreurs avant qu’elles ne causent des dommages.

Pourquoi est-ce si important ?
De nombreux modèles d’IA, même avancés, peuvent parfois présenter des « hallucinations » – ils donnent des réponses erronées ou non fondées. Dans les secteurs où les décisions ont un poids important, comme le diagnostic médical ou la conduite autonome, cela peut avoir des conséquences désastreuses. Themis AI a développé Capsa, une plateforme qui applique la quantification de l’incertitude : elle mesure et quantifie l’incertitude de la sortie de l’IA de manière détaillée et fiable.

 Comment ça marche ?
En enseignant aux modèles la conscience de l’incertitude, ils peuvent fournir des sorties avec une étiquette de risque ou de fiabilité. Par exemple : une voiture autonome peut indiquer qu’elle n’est pas sûre d’une situation et activer ainsi une intervention humaine. Cela augmente non seulement la sécurité, mais aussi la confiance des utilisateurs dans les systèmes d’IA.

Conclusion
L’équipe du MIT montre que l’avenir de l’IA ne consiste pas seulement à devenir plus intelligent, mais surtout à fonctionner de manière plus sûre et plus équitable. Chez NetCare, nous pensons que l’IA ne devient vraiment précieuse que lorsqu’elle est transparente sur ses propres limites. Avec des outils avancés de quantification de l’incertitude comme Capsa, vous pouvez également mettre cette vision en pratique.