MIT komanda moko dirbtinio intelekto modelius apie tai, ko jie dar nežinojo.
Dirbtinio intelekto (DI) taikymas sparčiai auga ir vis labiau įsipina į mūsų kasdienį gyvenimą bei svarbias pramonės šakas, tokias kaip sveikatos apsauga, telekomunikacijos ir energetika. Tačiau su didele galia ateina ir didelė atsakomybė: DI sistemos kartais daro klaidas arba pateikia neaiškius atsakymus, kurie gali turėti didelių pasekmių.
MIT Themis AI, kurį bendrai įkūrė ir vadovauja profesorė Daniela Rus iš CSAIL laboratorijos, siūlo novatorišką sprendimą. Jų technologija leidžia DI modeliams „žinoti, ko jie nežino“. Tai reiškia, kad DI sistemos pačios gali nurodyti, kada jos yra neįsitikinusios savo prognozėmis, taip užkertant kelią klaidoms, kol jos nepadarė žalos.
Kodėl tai taip svarbu?
Daugelis DI modelių, net ir pažangiausių, kartais gali parodyti vadinamąsias „haliucinacijas“ – jie pateikia klaidingus ar nepagrįstus atsakymus. Sektoriuose, kur sprendimai yra labai svarbūs, pavyzdžiui, medicininėje diagnostikoje ar autonominiame vairavime, tai gali turėti pražūtingų pasekmių. Themis AI sukūrė Capsa – platformą, kuri taiko netikrumo kiekybinį įvertinimą: ji matuoja ir kiekybiškai įvertina DI išvesties netikrumą detaliu ir patikimu būdu.
Kaip tai veikia?
Suteikiant modeliams gebėjimą suvokti netikrumą, jų išvestis galima pažymėti rizikos ar patikimumo etiketėmis. Pavyzdžiui: autonominis automobilis gali nurodyti, kad nėra tikras dėl situacijos, ir todėl suaktyvinti žmogaus įsikišimą. Tai ne tik padidina saugumą, bet ir vartotojų pasitikėjimą dirbtinio intelekto sistemomis.
- Integruojant su „PyTorch“, modelio apvyniojimas vyksta per
capsa_torch.wrapper()kai rezultatas apima tiek prognozę, tiek riziką:
NetCare ir jos klientams ši technologija reiškia didžiulį žingsnį į priekį. Mes galime pateikti dirbtinio intelekto (DI) sprendimus, kurie yra ne tik protingi, bet ir saugūs bei labiau nuspėjami, su mažesne haliucinacijų tikimybe. Tai padeda organizacijoms priimti geriau pagrįstus sprendimus ir sumažinti riziką diegiant DI į kritiškai svarbias verslo programas.
Išvada
MIT komanda parodo, kad DI ateitis sukasi ne tik apie protingėjimą, bet visų pirma apie saugesnį ir sąžiningesnį veikimą. „NetCare“ mes tikime, kad DI tampa tikrai vertingas tik tada, kai yra skaidrus dėl savo apribojimų. Su pažangiais netikrumo kiekybės įrankiais, tokiais kaip „Capsa“, galite šią viziją įgyvendinti praktiškai.
