Ekipa MIT uči modele umetne inteligence tega, česar še niso vedeli.
Uporaba umetne inteligence (UI) hitro narašča in se vse bolj prepleta z našim vsakdanjim življenjem ter panogami z visokimi tveganji, kot so zdravstvo, telekomunikacije in energetika. Vendar pa z veliko močjo prihaja tudi velika odgovornost: sistemi umetne inteligence včasih delajo napake ali dajejo negotove odgovore, ki imajo lahko resne posledice.
Zakaj je to tako pomomembno?
Številni modeli umetne inteligence, celo napredni, lahko včasih kažejo t. i. »halucinacije« – ponujajo napačne ali neutemeljene odgovore. V sektorjih, kjer so odločitve ključne, kot sta medicinska diagnostika ali avtonomna vožnja, ima to lahko katastrofalne posledice. Podjetje Themis AI je razvilo Capsa, platformo, ki uporablja kvantificiranje negotovosti: natančno in zanesljivo meri ter ovrednoti negotovost izhodnih podatkov umetne inteligence.
Kako deluje?
Z vpeljavo zavedanja o negotovosti v modele je mogoče izhodne podatke opremiti z oznako tveganja ali zanesljivosti. Primer: samovozeči avtomobil lahko sporoči, da ni prepričan o situaciji, in zato sproži posredovanje človeka. To ne povečuje le varnosti, temveč tudi zaupanje uporabnikov v sisteme umetne inteligence.
- Pri integraciji s PyTorch se ovijanje (wrapping) modela izvede prek
capsa_torch.wrapper()pri čemer izhodni podatki obsegajo tako napoved kot tveganje:
Za NetCare in njene stranke ta tehnologija pomeni velik korak naprej. Ponujamo lahko aplikacije umetne inteligence, ki niso le inteligentne, ampak tudi varne, bolj predvidljive in z manjšo verjetnostjo halucinacij. Organizacijam pomaga pri sprejemanju bolj premišljenih odločitev in zmanjševanju tveganj pri uvajanju umetne inteligence v poslovno kritične aplikacije.
Zaključek
Ekipa MIT ekipa pokazuje, da prihodnost umetne inteligence ni le v tem, da postaja pametnejša, temveč predvsem v tem, da deluje bolj varno in pošteno. V podjetju NetCare verjamemo, da umetna inteligenca postane resnično dragocena šele takrat, ko je transparentna glede lastnih omejitev. Z naprednimi orodji za kvantificiranje negotovosti, kot je Capsa, lahko to vizijo uresničite tudi v praksi.
