צוות MIT מלמד מודלי AI דברים שהם עדיין לא ידעו.

היישום של בינה מלאכותית (AI) צומח במהירות ומשתלב יותר ויותר בחיי היומיום שלנו ובתעשיות בעלות סיכון גבוה כמו בריאות, טלקום ואנרגיה. אך עם כוח גדול מגיעה גם אחריות גדולה: מערכות בינה מלאכותית עושות לעיתים טעויות או נותנות תשובות לא ודאיות שעלולות להיות להן השלכות גדולות.

Themis AI של MIT, שהוקמה ומוּנחית על ידי הפרופסורית דניאלה רוס ממעבדת CSAIL, מציעה פתרון פורץ דרך. הטכנולוגיה שלה מאפשרת למודלי בינה מלאכותית 'לדעת את מה שהם לא יודעים'. משמעות הדבר היא שמערכות בינה מלאכותית יכולות להצביע בעצמן מתי הן אינן בטוחות לגבי התחזיות שלהן, ובכך למנוע טעויות לפני שהן גורמות נזק.

מדוע זה כל כך חשוב?
מודלי בינה מלאכותית רבים, אפילו מתקדמים, עלולים לעיתים להפגין 'הזיות' – הם מספקים תשובות שגויות או בלתי מבוססות. במגזרים שבהם ההחלטות כבדות משקל, כמו אבחון רפואי או נהיגה אוטונומית, הדבר עלול להיות בעל השלכות הרסניות. Themis AI פיתחה את Capsa, פלטפורמה המיישמת כימות אי-ודאות (uncertainty quantification): היא מודדת ומכמתת את אי-הוודאות של פלטי הבינה המלאכותית בצורה מפורטת ואמינה.

 Hoe werkt het?
Door modellen uncertainty awareness bij te brengen, kunnen ze outputs voorzien van een risico- of betrouwbaarheidslabel. Bijvoorbeeld: een zelfrijdende auto kan aangeven dat het niet zeker is over een situatie en daarom een menselijke interventie activeren. Dit verhoogt niet alleen de veiligheid, maar ook het vertrouwen van gebruikers in AI-systemen.

מסקנה
Het MIT team laat zien dat de toekomst van AI niet alleen draait om slimmer worden, maar vooral ook om veiliger en eerlijker functioneren. Bij NetCare geloven we dat AI pas écht waardevol wordt als het transparant is over zijn eigen beperkingen. Met geavanceerde uncertainty quantification-tools zoals Capsa kunt u die visie ook in de praktijk brengen.