Tím z MIT učí modely AI to, čo ešte nevedeli.
Využitie umelej inteligencie (AI) rýchlo rastie a čoraz viac sa prelína s naším každodenným životom a odvetviami s vysokou mierou zodpovednosti, ako sú zdravotníctvo, telekomunikácie a energetika. S veľkou mocou však prichádza aj veľká zodpovednosť: systémy AI niekedy robia chyby alebo poskytujú neisté odpovede, ktoré môžu mať vážne následky.
Prečo je to také dôležité?
Mnohé modely AI, dokonca aj tie pokročilé, môžu niekedy vykazovať takzvané „halucinácie“ – poskytujú chybné alebo nepodložené odpovede. V sektoroch, kde majú rozhodnutia veľkú váhu, ako je lekárska diagnostika alebo autonómne riadenie, to môže mať katastrofálne následky. Spoločnosť Themis AI vyvinula Capsa, platformu, ktorá využíva kvantifikáciu neistoty: meria a kvantifikuje neistotu výstupov AI podrobným a spoľahlivým spôsobom.
Ako to funguje?
Tým, že modely naučíme vnímať neistotu, môžu svoje výstupy doplniť o označenie rizika alebo spoľahlivosti. Napríklad: samoazdiace auto môže signalizovať, že si nie je isté situáciou, a preto vyžiada zásah človeka. To zvyšuje nielen bezpečnosť, ale aj dôveru používateľov v systémy AI.
- Pri integrácii s PyTorch prebieha obalenie (wrapping) modelu prostredníctvom
capsa_torch.wrapper()pričom výstup pozostáva z predpovede aj rizika:
Pre NetCare a jej klientov znamená táto technológia obrovský krok vpred. Dokážeme dodávať aplikácie AI, ktoré sú nielen inteligentné, ale aj bezpečné a lepšie predvídateľné s nižším rizikom halucinácií. Pomáha to organizáciám robiť lepšie podložené rozhodnutia a znižovať riziká pri zavádzaní AI do kritických podnikových aplikácií.
Záver
Tím z MIT tím ukazuje, že budúcnosť AI nie je len o tom, aby bola inteligentnejšia, ale predovšetkým o tom, aby fungovala bezpečnejšie a spravodlivejšie. V NetCare veríme, že AI sa stáva skutočne hodnotnou až vtedy, keď je transparentná ohľadom svojich vlastných obmedzení. S pokročilými nástrojmi na kvantifikáciu neistoty, ako je Capsa, môžete túto víziu uviesť do praxe.
