Tým z MIT učí modely AI to, co dosud nevěděly.
Využívání umělé inteligence (AI) rychle roste a stále více se prolíná s naším každodenním životem i s kritickými odvětvími, jako jsou zdravotnictví, telekomunikace a energetika. S velkou mocí však přichází i velká odpovědnost: systémy AI někdy chybují nebo poskytují nejisté odpovědi, které mohou mít závažné důsledky.
Proč je to tak důležité?
Mnoho modelů AI, dokonce i těch pokročilých, může někdy vykazovat takzvané „halucinace“ — poskytují nesprávné nebo nepodložené odpovědi. V oblastech, kde mají rozhodnutí zásadní význam, například při lékařské diagnostice nebo autonomním řízení, to může mít katastrofální důsledky. Společnost Themis AI vyvinula platformu Capsa, která využívá kvantifikaci nejistoty: podrobně a spolehlivě měří a kvantifikuje nejistotu výstupů AI.
Jak to funguje?
Když modely naučíme uvědomovat si nejistotu, mohou své výstupy opatřit štítkem rizika nebo spolehlivosti. Samořídicí vůz může například upozornit, že si není určitou situací jistý, a proto aktivovat zásah člověka. To zvyšuje nejen bezpečnost, ale také důvěru uživatelů v systémy AI.
- Při integraci s PyTorchem probíhá zabalení modelu prostřednictvím
capsa_torch.wrapper()přičemž výstup se skládá jak z predikce, tak z rizika:
Pro společnost NetCare a její zákazníky představuje tato technologie obrovský krok vpřed. Můžeme dodávat aplikace AI, které jsou nejen inteligentní, ale také bezpečné, lépe předvídatelné a méně náchylné k halucinacím. Organizacím pomáhá přijímat lépe podložená rozhodnutí a snižovat rizika při zavádění AI do kritických podnikových aplikací.
Závěr
MIT tým ukazuje, že budoucnost AI nespočívá pouze v tom, aby byla chytřejší, ale především v tom, aby fungovala bezpečněji a spravedlivěji. Ve společnosti NetCare věříme, že AI získává skutečnou hodnotu teprve tehdy, když transparentně přiznává svá vlastní omezení. Díky pokročilým nástrojům pro kvantifikaci nejistoty, jako je Capsa, můžete tuto vizi uvést do praxe.
