Tim tal-MIT jgħallem l-mudelli tal-AI dak li kienu għadhom ma jafux.
L-applikazzjoni tal-intelliġenza artifiċjali (AI) qed tikber b'rata mgħaġġla u qed tkompli titħallat mal-ħajja ta' kuljum tagħna u ma' industriji ta' importanza kbira bħall-kura tas-saħħa, it-telekomunikazzjoni u l-enerġija. Iżda ma' qawwa kbira tiġi wkoll responsabbiltà kbira: is-sistemi tal-AI kultant jagħmlu żbalji jew jagħtu tweġibiet inċerti li jista' jkollhom konsegwenzi kbar.
Għaliex dan huwa daqshekk importanti?
Ħafna mudelli tal-AI, anke dawk avvanzati, kultant jistgħu juru l-hekk imsejħa 'hallucinations' (alluġinazzjonijiet)—jiġifieri jagħtu tweġibiet żbaljati jew bla bażi. F'setturi fejn id-deċiżjonijiet huma ta' piż kbir, bħad-dijanjosi medika jew is-sewqan awtonomu, dan jista' jkollu konsegwenzi diżastrużi. Themis AI żviluppat Capsa, pjattaforma li tapplika l-kwantifikazzjoni tal-inċertezza (uncertainty quantification): tkejjel u tikkwantifika l-inċertezza tal-output tal-AI b'mod dettaljat u affidabbli.
Kif jaħdem?
Billi l-mudelli jiġu mgħallma jkunu konxji tal-inċertezza, dawn jistgħu jipprovdu tikketta ta' riskju jew ta' affidabbiltà mal-outputs tagħhom. Pereżempju: karozza li ssuq waħedha tista' tindika li mhix ċerta dwar sitwazzjoni u għalhekk tiskatta intervent uman. Dan mhux biss iżid is-sigurtà, iżda wkoll il-fiduċja tal-utenti fis-sistemi tal-AI.
- Meta tk integra ma' PyTorch, it-tgeżwir (wrapping) tal-mudell isir permezz ta'
capsa_torch.wrapper()fejn l-output jikkonsisti kemm mill-previżjoni kif ukoll mir-riskju:
Għal NetCare u l-klijenti tagħha, din the teknoloġija tfisser pass 'il quddiem kbir ħafna. Aħna nistgħu nwasslu applikazzjonijiet tal-AI li mhumiex biss intelliġenti, iżda wkoll siguri u aktar prevedibbli b'inqas ċans ta' alluġinazzjonijiet. Dan jgħin lill-organizzazzjonijiet biex jieħdu deċiżjonijiet aktar sodi u biex inaqqsu r-riskji meta jintroduċu l-AI f'applikazzjonijiet kritiċi għan-negozju.
Konklużjoni
L-MIT tim qed juri li l-futur tal-AI mhuwiex biss dwar li ssir iktar intelliġenti, iżda fuq kollox dwar li tiffunzjona b'mod aktar sigur u ġust. F'NetCare aħna nemmnu li l-AI ssir tassew siewja biss meta tkun trasparenti dwar il-limitazzjonijiet tagħha stess. B'għodod avvanzati għall-kwantifikazzjoni tal-inċertezza bħal Capsa, tista' tpoġġi din il-viżjoni fil-prattika wkoll.
