Equipa do MIT ensina modelos de IA o que ainda não sabiam.
A aplicação da inteligência artificial (IA) está a crescer rapidamente e a ficar cada vez mais interligada com o nosso quotidiano e com indústrias de alto risco, como a saúde, as telecomunicações e a energia. Mas com um grande poder vem também uma grande responsabilidade: os sistemas de IA cometem por vezes erros ou fornecem respostas incertas que podem ter consequências graves.
Porque é que isto é tão importante?
Muitos modelos de IA, mesmo os mais avançados, podem por vezes apresentar as chamadas 'alucinações' — fornecendo respostas incorretas ou infundadas. Em setores onde as decisões têm um peso significativo, como o diagnóstico médico ou a condução autónoma, isto pode ter consequências desastrosas. A Themis AI desenvolveu o Capsa, uma plataforma que aplica a quantificação da incerteza (uncertainty quantification): mede e quantifica a incerteza dos resultados da IA de forma detalhada e fiável.
Como é que funciona?
Ao dotar os modelos de consciência da incerteza (uncertainty awareness), estes podem associar um rótulo de risco ou de fiabilidade aos seus outputs. Por exemplo: um carro autónomo pode indicar que não tem certeza sobre uma situação e, por conseguinte, acionar uma intervenção humana. Isto não só aumenta a segurança, como também a confiança dos utilizadores nos sistemas de IA.
- Na integração com o PyTorch, o encapsulamento (wrapping) do modelo é feito através de
capsa_torch.wrapper()em que o output é constituído tanto pela previsão como pelo risco:
Para a NetCare e para os seus clientes, esta tecnologia representa um enorme passo em frente. Podemos fornecer aplicações de IA que não são apenas inteligentes, mas também seguras e mais previsíveis, com menor probabilidade de alucinações. Ajuda as organizações a tomar decisões mais fundamentadas e a reduzir os riscos ao implementar a IA em aplicações críticas para o negócio.
Conclusão
O MIT equipa mostra que o futuro da IA não se cinge apenas a tornar-se mais inteligente, mas sobretudo a funcionar de forma mais segura e justa. Na NetCare, acreditamos que a IA só se torna verdadeiramente valiosa quando é transparente quanto às suas próprias limitações. Com ferramentas avançadas de quantificação da incerteza, como o Capsa, também pode colocar esta visão em prática.
