MIT komanda išmoko DI modelius to, ko jie dar nežinojo.
Dirbtinio intelekto (DI) taikymas sparčiai auga ir vis daugiau pinasi su mūsų kasdieniniu gyvenimu bei didelės rizikos pramonės šakomis, tokiomis kaip sveikatos priežiūra, telekomunikacijos ir energija. Tačiau su didele galia ateina ir didelė atsakomybė: DI sistemos kartais daro klaidas arba pateikia neaiškius atsakymus, galinčius turėti didelių pasekmių.
Kodėl tai taip svarbu?
Daugelis DI modelių, net ir pažangių, kartais gali rodyti vadinamąsias „haliucinacijas“ – jie pateikia klaidingus arba nepagrįstus atsakymus. Sektorėse, kur sprendimai turi didelį svorį, pavyzdžiui, medicininėje diagnostikoje ar autonominiame vairavime, tai gali turėti pražūtingų pasekmių. „Themis AI“ sukūrė „Capsa“ – platformą, kuri taiko neapibrėžtumo kvantifikavimą (uncertainty quantification): ji išsamiai ir patikimai išmatuoja bei kiekybiškai įvertina DI išvesties neapibrėžtumą.
Kaip tai veikia?
Suteikus modeliams neapibrėžtumo supratimą, jie gali pažymėti rezultatus rizikos arba patikimumo žyma. Pavyzdžiui: savarankiškai važiuojantis automobilius gali nurodyti, kad jis nėra tikras dėl situacijos, todėl inicijuoti žmogaus įsikišimą. Tai padidina ne tik saugumą, bet ir vartotojų pasitikėjimą DI sistemomis.
- Integruojant su „PyTorch“, modelio apvalkalas (wrapping) atliekamas per
capsa_torch.wrapper()kur išvestį sudaro tiek prognozė, tiek rizika:
„NetCare“ ir jos klientams ši technologija reiškia didžiulį žingsnį į priekį. Galime tiekti DI sprendimus, kurie yra ne tik ištingingi, bet ir saugūs bei geriau nuspėjami, sumažinant haliucinacijų tikimybę. Tai padeda organizacijoms priimti geriau pagrįstus sprendimus ir sumažinti riziką diegiant DI verslui kritinėse programose.
Išvada
MIT komanda rodo, kad DI ateitis susijusi ne tik su tapimu protingesniu, bet pirmiausia – su saugesniu ir sąžiningesniu funkcionavimu. Mes „NetCare“ tikime, kad DI tampa išties vertingas tik tada, kai jis yra skaidrus savo paties apribojimų atžvilgiu. Naudodami pažangius neapibrėžtumo kvantifikavimo įrankius, tokius kaip „Capsa“, galite šią viziją įgyvendinti praktikoje.
