Zespół MIT uczy modele AI tego, czego jeszcze nie wiedziały.

Zastosowanie sztucznej inteligencji (AI) szybko rośnie i coraz bardziej splata się z naszym codziennym życiem oraz branżami o wysokiej stawce, takimi jak opieka zdrowotna, telekomunikacja i energetyka. Ale z wielką mocą wiąże się też wielka odpowiedzialność: systemy AI czasami popełniają błędy lub dają niepewne odpowiedzi, które mogą mieć poważne konsekwencje.

Themis AI z MIT, współzałożony i kierowany przez profesor Danielę Rus z laboratorium CSAIL, oferuje przełomowe rozwiązanie. Ich technologia umożliwia modelom AI „wiedzieć, czego nie wiedzą”. Oznacza to, że systemy AI mogą same wskazać, kiedy są niepewne co do swoich przewidywań, co pozwala zapobiec błędom, zanim wyrządzą szkody.

Dlaczego to jest tak ważne?
Wiele modeli AI, nawet tych zaawansowanych, może czasami wykazywać tak zwane „halucynacje” – dają błędne lub nieuzasadnione odpowiedzi. W sektorach, gdzie decyzje mają dużą wagę, takich jak diagnoza medyczna czy autonomiczna jazda, może to mieć katastrofalne konsekwencje. Themis AI opracowało Capsa, platformę, która stosuje kwantyfikację niepewności: mierzy i kwantyfikuje niepewność wyników AI w szczegółowy i wiarygodny sposób.

 Jak to działa?
Poprzez nauczanie modeli świadomości niepewności, mogą one dostarczać wyniki z etykietą ryzyka lub wiarygodności. Na przykład: samochód autonomiczny może wskazać, że nie jest pewien sytuacji i dlatego aktywować interwencję człowieka. To nie tylko zwiększa bezpieczeństwo, ale także zaufanie użytkowników do systemów AI.

Wnioski
Zespół MIT pokazuje, że przyszłość AI to nie tylko stawanie się mądrzejszym, ale przede wszystkim bezpieczniejsze i bardziej sprawiedliwe funkcjonowanie. W NetCare wierzymy, że AI staje się naprawdę wartościowa tylko wtedy, gdy jest przejrzysta co do swoich własnych ograniczeń. Dzięki zaawansowanym narzędziom do kwantyfikacji niepewności, takim jak Capsa, możesz również wprowadzić tę wizję w życie.