MIT meeskond õpetab AI-mudelitele seda, mida nad seni ei teadnud.
Tehisintellekti (AI) rakendamine kasvab kiiresti ja põimub üha enam meie igapäevaelu ning riskantsete valdkondadega, nagu tervishoid, telekommunikatsioon ja energeetika. Kuid suure jõuga kaasneb ka suur vastutus: tehisintellektisüsteemid teevad mõnikord vigu või annavad ebakindlaid vastuseid, millel võivad olla tõsised tagajärjed.
Miks see on nii oluline?
Paljud AI-mudelid, isegi arenenud, võivad mõnikord esile kutsuda nn hallutsinatsioone – nad annavad ekslikke või põhjendamatuid vastuseid. Sektorites, kus otsustel on suur kaal, nagu meditsiiniline diagnoosimine või autonoomne sõit, võib sellel olla katastroofilisi tagajärgi. Themis AI töötas välja platvormi Capsa, mis rakendab ebakindluse kvantifitseerimist (uncertainty quantification): see mõõdab ja kvantifitseerib AI väljundi ebakindlust üksikasjalikul ja usaldusväärsel viisil.
Kuidas see toimib?
Õpetades mudelitele ebakindluse teadvustamist (uncertainty awareness), saavad nad varustada väljundid riski- või usaldusväärsusmärgistusega. Näiteks võib isejuhtiv auto anda märku, et ta ei ole olukorras kindel, ja seetõttu algatada inimsekkumise. See ei suurenda mitte ainult ohutust, vaid ka kasutajate usaldust AI-süsteemide vastu.
- PyTorchi integreerimisel toimub mudeli pakendamine (wrapping) kaudu
capsa_torch.wrapper()kus väljund koosneb nii ennustusest kui ka riskist:
NetCare'i ja selle klientide jaoks tähendab see tehnoloogia tohutut sammu edasi. Saame pakkuda tehisintellektil põhinevaid rakendusi, mis pole mitte ainult intelligentsed, vaid ka turvalised ja paremini ennustatavad, vähendades hallutsinatsioonide ohtu. See aitab organisatsioonidel teha teadlikumaid otsuseid ja vähendada riske tehisintellekti juurutamisel ärikriitilistes rakendustes.
Kokkuvõte
MIT meeskond näitab, et AI tulevik ei keerle ainult targemaks muutumise, vaid eelkõige turvalisema ja ausama toimimise ümber. Me NetCare'is usume, et AI muutub tõeliselt väärtuslikuks alles siis, kui see on oma piirangute suhtes läbipaistev. Täiustatud ebakindluse kvantifitseerimise tööriistadega, nagu Capsa, saate selle visiooni ka praktikas ellu viia.
