Az MIT csapata olyan dolgokat tanít az AI modelleknek, amiket még nem tudtak.
A mesterséges intelligencia (MI) alkalmazása gyorsan növekszik, és egyre inkább átszövi mindennapi életünket, valamint az olyan kulcsfontosságú iparágakat, mint az egészségügy, a telekommunikáció és az energia. De nagy erőhöz nagy felelősség is társul: az MI-rendszerek néha hibáznak, vagy bizonytalan válaszokat adnak, amelyek súlyos következményekkel járhatnak.
A MIT Themis AI-ja, amelyet Daniela Rus professzor, a CSAIL labor vezetője társalapított és vezet, áttörést hozó megoldást kínál. Technológiájuk lehetővé teszi az MI-modellek számára, hogy „tudják, mit nem tudnak”. Ez azt jelenti, hogy az MI-rendszerek maguk jelezhetik, ha bizonytalanok a jóslataikkal kapcsolatban, így a károkozás előtt megelőzhetők a hibák.
Miért olyan fontos ez?
Sok MI-modell, még a fejlettebbek is, néha úgynevezett „hallucinációkat” mutathatnak – téves vagy megalapozatlan válaszokat adnak. Azokban az ágazatokban, ahol a döntések súlyosak, mint például az orvosi diagnosztika vagy az autonóm vezetés, ennek katasztrofális következményei lehetnek. A Themis AI kifejlesztette a Capsa platformot, amely az „uncertainty quantification”-t (bizonytalanság kvantifikálását) alkalmazza: részletes és megbízható módon méri és kvantifikálja az MI kimenetének bizonytalanságát.
Hogyan működik?
A modellek bizonytalanságtudatosságának beépítésével a kimeneteket kockázati vagy megbízhatósági címkével láthatják el. Például: egy önvezető autó jelezheti, hogy nem biztos egy helyzetben, és ezért emberi beavatkozást aktiválhat. Ez nemcsak a biztonságot növeli, hanem a felhasználók bizalmát is növeli az AI-rendszerekben.
- A PyTorch-csal való integráció során a modell becsomagolása a következőképpen történik:
capsa_torch.wrapper()amelynek kimenete mind az előrejelzést, mind a kockázatot tartalmazza:
A NetCare és ügyfelei számára ez a technológia hatalmas előrelépést jelent. Olyan MI-alkalmazásokat tudunk szállítani, amelyek nemcsak intelligensek, hanem biztonságosabbak és jobban kiszámíthatóak, kevesebb hallucinációval. Segíti a szervezeteket abban, hogy megalapozottabb döntéseket hozzanak, és csökkentse a kockázatokat az üzletkritikus alkalmazásokba történő MI bevezetése során.
Következtetés
Az MIT csapat megmutatja, hogy az AI jövője nem csupán az okosabbá válásról szól, hanem elsősorban a biztonságosabb és tisztességesebb működésről. A NetCare-nél hiszünk abban, hogy az AI csak akkor válik igazán értékesvé, ha átlátható a saját korlátaival kapcsolatban. Az olyan fejlett bizonytalanság-kvantifikációs eszközökkel, mint a Capsa, Ön is gyakorlatba ültetheti ezt a víziót.
