MIT komanda moko AI modelius to, ko jie dar nežinojo.
Dirbtinio intelekto (DI) taikymas sparčiai auga ir vis labiau persipina su mūsų kasdieniu gyvenimu bei aukštos rizikos pramonės šakomis, tokiomis kaip sveikatos priežiūra, telekomunikacijos ir energetika. Tačiau su dideliais gebėjimais ateina ir didelė atsakomybė: DI sistemos kartais klysta arba pateikia neaiškius atsakymus, kurių pasekmės gali būti reikšmingos.
MIT Themis AI, kurią iš dalies įkūrė ir kuriai vadovauja profesorė Daniela Rus iš CSAIL laboratorijos, siūlo pažangią sprendimo priemonę. Jų technologija leidžia DI modeliams „žinoti, ko jie nežino“. Tai reiškia, kad DI sistemos gali pačios nurodyti, kada jos yra nepasiruošusios ar neįsitikinusios savo prognozėmis, taip užkertant kelią klaidoms prieš joms padarant žalą.
Kodėl tai yra tokia svarbu?
Daugelis DI modelių, net ir pažangūs, kartais patiria vadinamasias „haliucinacijas“ — jie pateikia neteisingus ar nepagrįstus atsakymus. Sektoriuose, kur sprendimai turi didelę reikšmę, pavyzdžiui, medicininiuose diagnozėse ar autonominiame vairavime, tai gali sukelti katastrofiškas pasekmes. Themis AI sukūrė Capsa — platformą, taikančią nežinomybės kiekybinimą (uncertainty quantification): ji matuoja ir kiekybiškai įvertina DI išvesties neapibrėžtumą detaliu ir patikimu būdu.
Kaip tai veikia?
Primesdami modeliams nežinomybės suvokimą (uncertainty awareness), galima pridėti išvestims rizikos arba patikimumo žymą. Pavyzdžiui, savarankiškai važiuojantis automobilis gali pranešti, kad tam tikra situacija kelia neaiškumų, ir dėl to aktyvuoti žmogaus įsikišimą. Tai ne tik padidina saugumą, bet ir didina vartotojų pasitikėjimą DI sistemomis.
- Integruojant su PyTorch, modelio įvyniojimas atliekamas per
capsa_torch.wrapper()kurio išvestis sudaryta tiek iš prognozės, tiek iš rizikos:
NetCare ir jos klientams ši technologija reiškia didelį žingsnį į priekį. Mes galime tiekti DI sprendimus, kurie yra ne tik inteligentiški, bet ir saugesni bei labiau prognozuojami, turint mažesnę haliucinacijų riziką. Tai padeda organizacijoms priimti geriau pagrįstus sprendimus ir mažinti rizikas diegiant DI verslo kritinėse programose.
Išvados
MIT komanda rodo, kad DI ateitis nėra vien apie didesnį „protingumą“, bet svarbiausia — apie saugesnį ir teisingesnį veikimą. NetCare manome, kad DI tampa iš tikrųjų vertinga tik tuomet, kai ji yra skaidri dėl savo pačios ribotumų. Naudodami pažangius nežinomybės kiekybinimo įrankius, tokius kaip Capsa, galite šią viziją įgyvendinti praktikoje.
