Ekipa MIT uči modele umetne inteligence tisto, česar še niso vedeli.
Uporaba umetne inteligence (UI) hitro narašča in postaja vse bolj prepletena z našim vsakdanjim življenjem ter panogami z visokimi tveganji, kot so zdravstvo, telekomunikacije in energetika. Vendar pa velika moč prinaša tudi veliko odgovornost: sistemi UI včasih delajo napake ali podajajo negotove odgovore, kar ima lahko resne posledice.
Zakaj je to tako pomembno?
Številni modeli UI, tudi napredni, lahko včasih kažejo tako imenovane 'halucinacije' – podajajo napačne ali neutemeljene odgovore. V sektorjih, kjer so odločitve zelo pomembne, kot sta medicinska diagnostika ali avtonomna vožnja, ima to lahko katastrofalne posledice. Podjetje Themis AI je razvilo Capsa, platformo, ki uporablja kvantifikacijo negotovosti: meri in kvantificira negotovost izhodnih podatkov UI na podroben in zanesljiv način.
Kako to deluje?
S tem, ko modele naučimo zavedanja negotovosti, jim lahko dodamo oznake tveganja ali zanesljivosti. Na primer: samovozeči avtomobil lahko sporoči, da ni prepričan o situaciji, in zato zahteva človeško posredovanje. To ne poveča le varnosti, temveč tudi zaupanje uporabnikov v sisteme UI.
- Pri integraciji s PyTorch se model ovije (wrapping) prek
capsa_torch.wrapper()kjer izhod sestavljata tako napoved kot tveganje:
Za NetCare in naše stranke ta tehnologija pomeni ogromen korak naprej. Zagotavljamo lahko aplikacije UI, ki niso le inteligentne, temveč tudi varne in bolj predvidljive z manjšo možnostjo halucinacij. Organizacijam pomaga pri sprejemanju bolje utemeljenih odločitev in zmanjševanju tveganj pri uvajanju UI v poslovno kritične aplikacije.
Zaključek
Ekipa MIT ekipa prikazuje, da se prihodnost UI ne vrti le okoli večje pameti, temveč predvsem okoli varnejšega in poštenejšega delovanja. Pri NetCare verjamemo, da UI postane zares dragocena šele takrat, ko je transparentna glede svojih omejitev. Z naprednimi orodji za kvantifikacijo negotovosti, kot je Capsa, lahko to vizijo uresničite tudi v praksi.
