Tím MIT učí AI modely to, čo ešte nevedeli.
Aplikácia umelej inteligencie (AI) rýchlo rastie a čoraz viac sa prelína s naším každodenným životom a kľúčovými odvetviami, ako je zdravotníctvo, telekomunikácie a energetika. Avšak s veľkou mocou prichádza aj veľká zodpovednosť: systémy AI niekedy robia chyby alebo poskytujú neisté odpovede, ktoré môžu mať vážne dôsledky.
Themis AI z MIT, spoluzaložená a vedená profesorkou Danielou Rusovou z laboratória CSAIL, prináša prelomové riešenie. Ich technológia umožňuje modelom AI, aby „znali, čo nevedia“. To znamená, že systémy AI dokážu samy signalizovať, kedy si nie sú isté svojimi predpoveďami, čím sa predchádza chybám skôr, ako spôsobia škodu.
Prečo je to také dôležité?
Mnohé modely AI, dokonca aj tie pokročilé, môžu niekedy vykazovať tzv. “halucinácie”—poskytujú chybné alebo nepodložené odpovede. V odvetviach, kde sú rozhodnutia kľúčové, ako napríklad pri lekárskej diagnostike alebo autonómnom riadení, to môže mať zničujúce následky. Themis AI vyvinula Capsa, platformu, ktorá aplikuje kvantifikáciu neistoty (uncertainty quantification): meria a kvantifikuje neistotu výstupov AI podrobným a spoľahlivým spôsobom.
Ako to funguje?
Tým, že modelom vštepíme povedomie o neistote, môžu poskytovať výstupy s označením rizika alebo spoľahlivosti. Napríklad: autonómne vozidlo môže uviesť, že si nie je isté situáciou, a preto aktivovať zásah človeka. To nielen zvyšuje bezpečnosť, ale aj dôveru používateľov v systémy umelej inteligencie.
- Pri integrácii s PyTorch sa model zabalí cez
capsa_torch.wrapper()kde výstup pozostáva z predpovede aj rizika:
Pre NetCare a jej klientov táto technológia znamená obrovský krok vpred. Dokážeme dodávať aplikácie umelej inteligencie, ktoré sú nielen inteligentné, ale aj bezpečné a lepšie predvídateľné s menšou pravdepodobnosťou halucinácií. Pomáha organizáciám robiť lepšie informované rozhodnutia a znižovať riziká pri zavádzaní AI do kritických podnikových aplikácií.
Záver
MIT tím ukazuje, že budúcnosť AI sa netýka len toho, aby sa stala inteligentnejšou, ale predovšetkým bezpečnejšou a spravodlivejšou. V spoločnosti NetCare veríme, že AI sa stane skutočne cennou, až keď bude transparentná ohľadom svojich vlastných obmedzení. S pokročilými nástrojmi na kvantifikáciu neistoty, ako je Capsa, môžete túto víziu uviesť aj do praxe.
