Zespół MIT uczy modele AI tego, czego jeszcze nie wiedziały.
Zastosowanie sztucznej inteligencji (AI) szybko rośnie i coraz bardziej przeplata się z naszym codziennym życiem oraz branżami o dużej stawce, takimi jak ochrona zdrowia, telekomunikacja i energetyka. Jednak wraz z wielką mocą idzie wielka odpowiedzialność: systemy AI czasami popełniają błędy lub udzielają niepewnych odpowiedzi, które mogą mieć poważne konsekwencje.
Dlaczego to jest takie ważne?
Wiele modeli sztucznej inteligencji, nawet tych zaawansowanych, może czasami wykazywać tzw. „halucynacje” – podają błędne lub nieuzasadnione odpowiedzi. W sektorach, w których decyzje mają ogromną wagę, takich jak diagnoza medyczna czy jazda autonomiczna, może to mieć opłakane skutki. Themis AI opracowało Capsa – platformę, która stosuje kwantyfikację niepewności (uncertainty quantification): mierzy i kwantyfikuje niepewność danych wyjściowych AI w szczegółowy i niezawodny sposób.
Jak to działa?
Dzięki zaszczepieniu modelom świadomości niepewności (uncertainty awareness), mogą one opatrywać swoje wyniki etykietą ryzyka lub wiarygodności. Na przykład: samochód autonomiczny może zasygnalizować, że nie jest pewien sytuacji, i dlatego aktywować interwencję człowieka. Zwiększa to nie tylko bezpieczeństwo, ale także zaufanie użytkowników do systemów sztucznej inteligencji.
- W przypadku integracji z PyTorch owrapowanie (wrapping) modelu odbywa się poprzez
capsa_torch.wrapper()gdzie wynik składa się zarówno z predykcji, jak i ryzyka:
Dla NetCare i jej klientów ta technologia oznacza ogromny krok naprzód. Możemy dostarczać aplikacje oparte na AI, które są nie tylko inteligentne, ale także bezpieczne i bardziej przewidywalne, z mniejszym prawdopodobieństwem halucynacji. Pomaga to organizacjom w podejmowaniu lepiej uzasadnionych decyzji i ograniczaniu ryzyka podczas wprowadzania sztucznej inteligencji do aplikacji o znaczeniu krytycznym dla biznesu.
Podsumowanie
MIT zespół pokazuje, że przyszłość sztucznej inteligencji nie polega tylko na staniu się mądrzejszą, ale przede wszystkim na bezpieczniejszym i uczciwszym funkcjonowaniu. W NetCare wierzymy, że sztuczna inteligencja staje się naprawdę wartościowa dopiero wtedy, gdy jest transparentna co do swoich własnych ograniczeń. Dzięki zaawansowanym narzędziom do kwantyfikacji niepewności, takim jak Capsa, możesz wcielić tę wizję w życie.
