Az MIT csapata megtanítja az AI modelleket arra, amit még nem tudtak.
A mesterséges intelligencia (MI) alkalmazása gyorsan növekszik, és egyre inkább összefonódik mindennapi életünkkel, valamint az olyan kritikus iparágakkal, mint az egészségügy, a távközlés és az energetika. A nagy hatalommal azonban nagy felelősség is jár: az MI-rendszerek néha hibáznak, vagy bizonytalan válaszokat adnak, amelyeknek súlyos következményei lehetnek.
Miért annyira fontos ez?
Számos MI-modell, még a legfejettebbek is, időnként úgynevezett „hallucinációkat” produkál – hibás vagy megalapozatlan válaszokat adnak. Az olyan ágazatokban, ahol a döntéseknek nagy a súlya, mint például az orvosi diagnosztika vagy az önvezető járművek, ennek katasztrofális következményei lehetnek. A Themis AI kifejlesztette a Capsát, egy olyan platformot, amely bizonytalanság-számszerűsítést (uncertainty quantification) alkalmaz: részletes és megbízható módon méri és számszerűsíti az MI kimeneteinek bizonytalanságát.
Hogyan működik?
Azáltal, hogy a modelleket bizonytalanság-tudatosságra nevelik, képessé válnak arra, hogy kimeneteiket kockázati vagy megbízhatósági címkével lássák el. Például: egy önvezető autó jelezheti, ha nem biztos egy adott helyzetben, és ezért emberi beavatkozást kérhet. Ez nemcsak a biztonságot növeli, hanem a felhasználók MI-rendszerekbe vetett bizalmát is.
- PyTorch-integráció esetén a modell burkolása (wrapping) a következő módon történik:
capsa_torch.wrapper()ahol a kimenet magában foglalja mind a előrejelzést, mind a kockázatot:
A NetCare és ügyfelei számára ez a technológia hatalmas előrelépést jelent. Olyan MI-alkalmazásokat tudunk szállítani, amelyek nemcsak intelligensek, de biztonságosak és kiszámíthatóbbak is, kisebb eséllyel adnak hallucinációkat. Ez segít a szervezeteknek a megalapozottabb döntéshozatalban és a kockázatok csökkentésében az üzletkritikus alkalmazásokba történő MI-bevezetés során.
Következtetés
Az MIT csapat bemutatja, hogy az MI jövője nemcsak az okosabbá válásról szól, hanem mindenekelőtt a biztonságosabb és tisztességesebb működésről is. A NetCare-nél hiszünk abban, hogy az MI csak akkor ér valódi értéket, ha átlátható saját korlátait illetően. Az olyan fejlett bizonytalanság-számszerűsítési eszközökkel, mint a Capsa, Ön is a gyakorlatba ültetheti ezt a jövőképet.
