El equipo del MIT enseña a los modelos de IA lo que aún no sabían.
La aplicación de la inteligencia artificial (IA) está creciendo rápidamente y se está entrelazando cada vez más con nuestra vida diaria y con sectores de alto riesgo como la sanidad, las telecomunicaciones y la energía. Pero un gran poder conlleva una gran responsabilidad: los sistemas de IA a veces cometen errores o dan respuestas inciertas que pueden tener consecuencias importantes.
¿Por qué es esto tan tan importante?
Muchos modelos de IA, incluso los más avanzados, pueden mostrar a veces las llamadas «alucinaciones», es decir, dan respuestas erróneas o sin fundamento. En sectores donde las decisiones tienen mucho peso, como el diagnóstico médico o la conducción autónoma, esto puede tener consecuencias desastrosas. Themis AI ha desarrollado Capsa, una plataforma que aplica la cuantificación de la incertidumbre (uncertainty quantification): mide y cuantifica la incertidumbre de los resultados de la IA de forma detallada y fiable.
¿Cómo funciona?
Al dotar a los modelos de conciencia de la incertidumbre (uncertainty awareness), pueden etiquetar sus resultados con un indicador de riesgo o fiabilidad. Por ejemplo: un coche autónomo puede indicar que no está seguro de una situación y, por lo tanto, activar una intervención humana. Esto no solo aumenta la seguridad, sino también la confianza de los usuarios en los sistemas de IA.
- Al integrarlo con PyTorch, el encapsulado (wrapping) del modelo se realiza mediante
capsa_torch.wrapper()donde el resultado consta tanto de la predicción como del riesgo:
Para NetCare y sus clientes, esta tecnología representa un enorme paso adelante. Podemos ofrecer aplicaciones de IA que no solo son inteligentes, sino también seguras y más predecibles, con menos probabilidad de alucinaciones. Esto ayuda a las organizaciones a tomar decisiones mejor fundamentadas y a reducir los riesgos al implementar la IA en aplicaciones de misión crítica.
Conclusión
El MIT equipo muestra que el futuro de la IA no gira únicamente en torno a ser más inteligente, sino sobre todo a funcionar de manera más segura y justa. En NetCare creemos que la IA solo se vuelve verdaderamente valiosa cuando es transparente sobre sus propias limitaciones. Con herramientas avanzadas de cuantificación de la incertidumbre como Capsa, usted también puede llevar esta visión a la práctica.
