Tím MIT učí modely AI to, čo ešte nevedia.
Použitie umelej inteligencie (AI) rýchlo rastie a čoraz viac sa preplieta s naším každodenným životom a odvetviami s vysokými stávkami, ako je zdravotníctvo, telekomunikácie a energetika. S veľkou mocou však prichádza aj veľká zodpovednosť: systémy AI občas robia chyby alebo poskytujú neisté odpovede, ktoré môžu mať vážne následky.
Prečo je to také dôležité?
Mnohé modely umelej inteligencie, dokonca aj tie pokročilé, môžu občas vykazovať takzvané „halucinácie“ – poskytujú chybné alebo nepodložené odpovede. V sektoroch, kde majú rozhodnutia veľkú váhu, ako je lekárska diagnóza alebo autonómne riadenie, to môže mať katastrofálne následky. Spoločnosť Themis AI vyvinula Capsa, platformu, ktorá využíva kvantifikáciu neistoty (uncertainty quantification): detailným a spoľahlivým spôsobom meria a kvantifikuje neistotu výstupov AI.
Ako to funguje?
Tým, že sa modely naučia byť si vedomé svojej neistoty, môžu výstupy označiť štítkom rizika alebo spoľahlivosti. Napríklad: samo-riadiace auto môže signalizovať, že si nie je isté určitou situáciou, a preto vyvolať ľudský zásah. To zvyšuje nielen bezpečnosť, ale aj dôveru používateľov v systémy AI.
- Pri integrácii s PyTorch prebieha obalenie (wrapping) modelu pomocou
capsa_torch.wrapper()pričom výstup sa skladá z predikcie aj rizika:
Pre NetCare a jej zákazníkov znamená táto technológia obrovský krok vpred. Dokážeme dodať aplikácie umelej inteligencie, ktoré sú nielen inteligentné, ale aj bezpečné a lepšie predvídateľné s menšou pravdepodobnosťou halucinácií. Pomáha organizáciám prijímať lepšie podložené rozhodnutia a znižovať riziká pri zavádzaní AI do kritických podnikových aplikácií.
Záver
MIT tím ukazuje, že budúcnosť umelej inteligencie nie je len o tom, byť múdrejší, ale predovšetkým o bezpečnejšom a spravodlivejšom fungovaní. V NetCare veríme, že AI sa stáva skutočne hodnotnou až vtedy, keď je transparentná ohľadom svojich vlastných obmedzení. S pokročilými nástrojmi na kvantifikáciu neistoty, ako je Capsa, môžete túto víziu uviesť do praxe.
