MIT-jev tim uči AI modele ono što još nisu znali.
Primjena umjetne inteligencije (AI) brzo raste i sve se više isprepliće s našim svakodnevnim životom i industrijskim sektorima s visokim ulozima kao što su zdravstvo, telekomunikacije i energetika. No s velikom moći dolazi i velika odgovornost: AI sustavi ponekad grade pogreške ili daju nesigurne odgovore koji mogu imati velike posljedice.
Zašto je ovo toliko važno?
Mnogi AI modeli, čak i oni napredni, ponekad mogu pokazivati takozvane 'halucinacije' — daju netočne ili neutemeljene odgovore. U sektorima gdje su odluke od vitalne važnosti, poput medicinske dijagnostike ili autonomne vožnje, to može imati katastrofalne posljedice. Themis AI razvio je Capsa, platformu koja primjenjuje kvantifikaciju nesigurnosti (uncertainty quantification): mjeri i kvantificira nesigurnost izlaza AI-ja na detaljan i pouzdan način.
Kako to funkcionira?
Uvođenjem svjesnosti o nesigurnosti u modele, oni mogu svojim izlaznim rezultatima pridružiti oznaku rizika ili pouzdanosti. Na primjer: autonomni automobil može naznačiti da nije siguran u neku situaciju i stoga pokrenuti ljudsku intervenciju. To ne samo da povećava sigurnost, već i povjerenje korisnika u AI sustave.
- Prilikom integracije s PyTorchom, omatanje (wrapping) modela vrši se putem
capsa_torch.wrapper()pri čemu se izlaz sastoji od predviđanja i rizika:
Za NetCare i njezine klijente ova tehnologija predstavlja ogroman korak naprijed. Možemo isporučiti AI aplikacije koje nisu samo inteligentne, već i sigurne i bolje predvidljive uz manju vjerojatnost halucinacija. To pomaže organizacijama u donošenju informiranijih odluka i smanjenju rizika pri uvođenju umjetne inteligencije u poslovno kritične aplikacije.
Zaključak
MIT tim pokazuje da se budućnost umjetne inteligencije ne vrti samo oko toga da postane pametnija, već prije svega oko sigurnijeg i pravednijeg funkcioniranja. U NetCareu vjerujemo da umjetna inteligencija postaje doista vrijedna tek kada je transparentna u vezi s vlastitim ograničenjima. S naprednim alatima za kvantifikaciju nesigurnosti poput Capsa-e tu viziju možete provesti i u praksi.
