El equipo del MIT enseña a los modelos de IA lo que no sabían aún.
La aplicación de la inteligencia artificial (IA) crece rápidamente y se entrelaza cada vez más con nuestra vida diaria y con industrias de alto riesgo como la sanitaria, las telecomunicaciones y la energética. Pero a gran poder también viene una gran responsabilidad: los sistemas de IA a veces cometen errores o dan respuestas inciertas que pueden tener consecuencias importantes.
Themis AI del MIT, cofundada y dirigida por la profesora Daniela Rus del laboratorio CSAIL, ofrece una solución innovadora. Su tecnología permite que los modelos de IA "sepan lo que no saben". Esto significa que los sistemas de IA pueden indicar cuándo están inseguros respecto a sus predicciones, lo que permite prevenir errores antes de que causen daños.
¿Por qué es esto tan importante?
Muchos modelos de IA, incluso los avanzados, pueden ocasionalmente presentar lo que se denomina "alucinaciones": proporcionan respuestas erróneas o sin fundamento. En sectores donde las decisiones tienen mucha trascendencia, como el diagnóstico médico o la conducción autónoma, esto puede tener consecuencias desastrosas. Themis AI desarrolló Capsa, una plataforma que aplica cuantificación de incertidumbre: mide y cuantifica la incertidumbre de las salidas de la IA de manera detallada y fiable.
¿Cómo funciona?
Al enseñar a los modelos a tener conciencia de la incertidumbre, pueden etiquetar sus salidas con un nivel de riesgo o confianza. Por ejemplo: un coche autónomo puede indicar que no está seguro acerca de una situación y, por tanto, activar una intervención humana. Esto no solo aumenta la seguridad, sino también la confianza de los usuarios en los sistemas de IA.
- Al integrarse con PyTorch, el envoltorio del modelo se realiza mediante
capsa_torch.wrapper()donde la salida consiste tanto en la predicción como en el riesgo:
Para NetCare y sus clientes, esta tecnología supone un avance enorme. Podemos ofrecer aplicaciones de IA que no solo son inteligentes, sino también seguras y más predecibles, con menos probabilidad de alucinaciones. Ayuda a las organizaciones a tomar decisiones mejor fundamentadas y a reducir riesgos al desplegar IA en aplicaciones críticas para el negocio.
Conclusión
El MIT equipo muestra que el futuro de la IA no solo consiste en hacerse más inteligente, sino, sobre todo, en funcionar de forma más segura y justa. En NetCare creemos que la IA solo resulta realmente valiosa cuando es transparente respecto a sus propias limitaciones. Con herramientas avanzadas de cuantificación de incertidumbre como Capsa, usted puede llevar esa visión a la práctica.
