MIT komanda māca MI modeļiem to, ko tie vēl nezināja.
Mākslīgā intelekta (MI) lietojums strauji aug un arvien vairāk savijas ar mūsu ikdienas dzīvi un augsta riska nozarēm, piemēram, veselības aprūpi, telekomunikācijām un enerģētiku. Taču ar lielu spēku nāk arī liela atbildība: MI sistēmas dažkārt pieļauj kļūdas vai sniedz nenoteiktas atbildes, kam var būt nopietnas sekas.
Kāpēc tas ir tik svarīgi?
Daudzi MI modeļi, pat progresīvi, dažkārt var izrādīt tā sauktās "halucinācijas" – tie sniedz kļūdainas vai nepamatotas atbildes. Nozarēs, kur lēmumiem ir liels svars, piemēram, medicīniskajā diagnostikā vai autonomajā braukšanā, tam var būt graujošas sekas. Themis AI izstrādāja Capsa – platformu, kas izmanto neapzinātības kvantificēšanu (uncertainty quantification): tā detalizētā un uzticamā veidā mēra un kvantificē MI izvades nenoteiktību.
Kā tas darbojas?
Ieviešot modeļos izpratni par nenoteiktību, tie var nodrošināt izvades ar riska vai uzticamības etiķeti. Piemēram: pašbraucoša automašīna var norādīt, ka tā nav pārliecināta par situāciju, un tāpēc aktivizēt cilvēka iejaukšanos. Tas ne tikai palielina drošību, bet arī lietotāju uzticību MI sistēmām.
- Integrējot ar PyTorch, modeļa ietīšana (wrapping) notiek caur
capsa_torch.wrapper()kur izvade sastāv gan no prognozes, gan riska:
NetCare un tās klientiem šī tehnoloģija nozīmē milzīgu soli uz priekšu. Mēs varam nodrošināt MI lietojumus, kas ir ne tikai inteliģenti, bet arī droši un labāk paredzami ar mazāku halucināciju risku. Tas palīdz organizācijām pieņemt labāk pamatotus lēmumus un samazināt riskus, ieviešot MI biznesam kritiskās lietojumprogrammās.
Secinājums
MIT komanda parāda, ka MI nākotne nav saistīta tikai ar kļūšanu gudrākam, bet galvenokārt ar drošāku un godīgāku darbību. Uzņēmumā NetCare mēs ticam, ka MI kļūst patiesi vērtīgs tikai tad, kad tas ir caurspīdīgs attiecībā uz saviem ierobežojumiem. Izmantojot progresīvus nenoteiktības kvantificēšanas rīkus, piemēram, Capsa, jūs varat īstenot šo redzējumu arī praksē.
