MIT-tiimi opettaa tekoälymalleille sen, mitä ne eivät vielä tienneet.
Tekoälyn soveltaminen kasvaa nopeasti ja kietoutuu yhä tiiviimmin osaksi jokapäiväistä elämäämme sekä riskialttiita aloja, kuten terveydenhuoltoa, telealaa ja energia-alaa. Suuren voiman myötä tulee kuitenkin myös suuri vastuu: tekoälyjärjestelmät tekevät joskus virheitä tai antavat epävarmoja vastauksia, joilla voi olla vakavia seurauksia.
Miksi tämä on niin tärkeää?
Monet tekoälymallit, jopa edistyneet sellaiset, voivat joskus tuottaa niin sanottuja ”hallusinaatioita” – eli virheellisiä tai perusteettomia vastauksia. Aloilla, joilla päätöksillä on suuri painoarvo, kuten lääketieteellisessä diagnostiikassa tai autonomisessa ajamisessa, tällä voi olla tuhoisia seurauksia. Themis AI kehitti Capsan, alustan, joka soveltaa epävarmuuden kvantisointia (uncertainty quantification): se mittaa ja kvantifioi tekoälyn tuottaman tuloksen epävarmuutta yksityiskohtaisella ja luotettavalla tavalla.
Miten se toimii?
Opetettamalla malleille tietoisuutta epävarmuudesta (uncertainty awareness) niille voidaan lisätä riski- tai luotettavuusmerkintä tulosten yhteyteen. Esimerkiksi itseohjautuva auto voi ilmoittaa, ettei se ole varma jostakin tilanteesta, ja pyytää sen vuoksi ihmisen väliintuloa. Tämä parantaa paitsi turvallisuutta, myös käyttäjien luottamusta tekoälyjärjestelmiin.
- PyTorch-integraatiossa mallin kääre (wrapping) tapahtuu seuraavasti:
capsa_torch.wrapper()jolloin tuloste koostuu sekä ennusteesta että riskistä:
NetCarelle ja sen asiakkaille tämä teknologia merkitsee valtavaa harppausta eteenpäin. Voimme tarjota tekoälysovelluksia, jotka eivät ole vain älykkäitä, vaan myös turvallisia ja paremmin ennustettavia pienemmällä hallusinaatioriskillä. Se auttaa organisaatioita tekemään paremmin perusteltuja päätöksiä ja vähentämään riskejä otettaessa tekoälyä käyttöön liiketoimintakriittisissä sovelluksissa.
Johtopäätös
MIT tiimi osoittaa, että tekoälyn tulevaisuus ei pyöri pelkästään älykkäämmäksi tulemisen ympärillä, vaan ennen kaikkea turvallisemman ja oikeudenmukaisemman toiminnan ympärillä. Me NetCarella uskomme, että tekoälystä tulee todella arvokasta vasta silloin, kun se on avoin omista rajoituksistaan. Edistyneiden epävarmuuden kvantisointityökalujen, kuten Capsan, avulla voit toteuttaa tätä visiota myös käytännössä.
