צוות MIT מלמד מודלים של בינה מלאכותית את מה שעדיין לא ידעו.
היישום של בינה מלאכותית (AI) צומח במהירות ומתשלב יותר ויותר בחיי היומיום שלנו ובתעשיות רגישות כמו בריאות, טלקום ואנרגיה. אבל עם כוח רדול מגיעה גם אחריות גדולה: מערכות AI לפעמים עושות שגיאות או מספקות תשובות לא בטוחות שעשויות להיות להן השלכות דרמטיות.
למד הדבר כל כך חשוב?
מודלים רבים של AI, אפילו המתקדמים שבהם, עשויים מדי פעם להציג מה שנקרא 'הזיות' – כלומר לספק תשובות שגויות או מבוססות על מידע חסר. בתחומים שבהם להחלטות יש משקל כבד, כמו אבחון רפואי או נהיגה אוטונומית, עלולות להיות לכך השלכות הרסניות. Themis AI פיתחה את Capsa, פלטפורמה המיישמת כימות אי-ודאות (uncertainty quantification): היא מודדת ומכמתת את מידת אי-הודאות של תוצר ה-AI בצורה מפורטת ומהמנה.
איך זה עובד?
על ידי הקניית מודעות לאי-ודאות (uncertainty awareness) למודלים, ניתן לצרף לפלטים תגית סיכון או מהימנות. לדוגמה: מכונית אוטונומית יכולה לציין אי-ודאות לגבי מצב מסוים ולכן להפעיל התערבות אנושית. הדבר לא רק מעלה את הבטיחות, אלא גם את אמון המשתמשים במערכות ה-AI.
- בעת אינטגרציה עם PyTorch, עטיפת (wrapping) המודל מתבצעת דרך
capsa_torch.wrapper()כאשר הפלט מורכב מהחזייה וגם מהסיכון:
עבור NetCare ולקוחותיה, טכנולוגיה זו מייצגת צעד ענק קדימה. אנו יכולים לספק יישומי AI שהם לא רק חכמים, אלא גם בטוחים וניתנים יותר לחיזוי עם סיכוי מופחת להזיות. הדבר מסייע לארגונים לקבל החלטות מבוססות יותר ולהפחית סיכונים בעת הטמעת AI ביישומים הקריטיים לפעילות העסקית.
סיכום
צוות ה-MIT צוות מראה שעתיד הבינה המלאכותית אינו עוסק רק בהפיכה לחכמה יותר, אלא בעיקר בתפקוד בטוח והוגן יותר. ב-NetCare אנו מאמינים שבינה מלאכותית הופכת לבעלת ערך אמיתי רק כאשר היא שקופה לגבי המגבלות של עצמה. באמצעות כלי כימות אי-ודאות מתקדמים כמו Capsa, תוכלו להוציא חזון זה אל הפועל גם בפועל.
