MIT-tiimi opettaa tekoälymalleille uutta tietoa.

Tekoälyn (AI) soveltaminen kasvaa nopeasti ja kietoutuu yhä tiiviimmin jokapäiväiseen elämäämme ja korkean panoksen aloihin, kuten terveydenhuoltoon, televiestintään ja energiaan. Suuren voiman mukana tulee kuitenkin myös suuri vastuu: tekoälyjärjestelmät tekevät joskus virheitä tai antavat epävarmoja vastauksia, joilla voi olla merkittäviä seurauksia.

MIT:n Themis AI, jonka ovat perustaneet ja jota johtavat professori Daniela Rus CSAIL-laboratoriosta, tarjoaa uraauurtavan ratkaisun. Heidän teknologiansa antaa tekoälymalleille mahdollisuuden “tietää, mitä ne eivät tiedä”. Tämä tarkoittaa, että tekoälyjärjestelmät voivat itse ilmoittaa, milloin ne ovat epävarmoja ennusteistaan, mikä auttaa estämään virheitä ennen kuin ne aiheuttavat vahinkoa.

Miksi tämä on niin tärkeää?
Monet tekoälymallit, jopa edistyneet, voivat joskus “hallusinoida” – ne antavat virheellisiä tai perusteettomia vastauksia. Aloilla, joilla päätöksillä on suuri painoarvo, kuten lääketieteellisessä diagnostiikassa tai autonomisessa ajamisessa, tällä voi olla tuhoisia seurauksia. Themis AI kehitti Capsan, alustan, joka soveltaa epävarmuuden kvantifiointia: se mittaa ja kvantifioi tekoälyn tuotoksen epävarmuutta yksityiskohtaisesti ja luotettavasti.

 Miten se toimii?
Antamalla malleille epävarmuustietoisuuden ne voivat antaa tuotoksille riski- tai luotettavuusleiman. Esimerkiksi itseohjautuva auto voi ilmoittaa olevansa epävarma tilanteesta ja aktivoida siksi ihmisen puuttumisen. Tämä ei ainoastaan lisää turvallisuutta, vaan myös käyttäjien luottamusta tekoälyjärjestelmiin.

Yhteenveto
MIT:n tiimi osoittaa, että tekoälyn tulevaisuudessa ei ole kyse vain älykkäämmäksi tulemisesta, vaan ennen kaikkea turvallisemmasta ja oikeudenmukaisemmasta toiminnasta. NetCarella uskomme, että tekoälystä tulee todella arvokas vasta, kun se on läpinäkyvä omien rajoitustensa suhteen. Kehittyneillä epävarmuuden kvantifiointityökaluilla, kuten Capsalla, voit toteuttaa tämän vision käytännössä.