فريق معهد ماساتشوستس للتقنية (MIT) يعلم نماذج الذكاء الاصطناعي ما لم تكن تعلمه من قبل.
يخضع تطبيق الذكاء الاصطناعي لنمو متسارع، ليصبح أكثر اندماجاً في حياتنا اليومية وفي القطاعات الحساسة ذات المخاطر العالية مثل الرعاية الصحية، والاتصالات، والطاقة. ولكن مع القوة الكبيرة تأتي مسؤولية كبيرة أيضاً؛ فأنظمة الذكاء الاصطناعي ترتكب أخطاء أحياناً أو تقدم إجابات غير مؤكدة قد ترتب عليها عواقب وخيمة.
لماذا هذا مهم جداً؟
العديد من نماذج الذكاء الاصطناعي، حتى المتقدمة منها، قد تُظهر أحياناً ما يسمى بـ "الهلوسة" — حيث تقدم إجابات خاطئة أو غير مبررة. في القطاعات التي تكون فيها القرارات ذات وزن ثقيل، مثل التشخيص الطبي أو القيادة الذاتية، يمكن أن يكون لذلك عواقب وخيمة. لقد طورت شركة "ثيميس إيه آي" (Themis AI) منصة "كابسا" (Capsa) التي تطبق قياس عدم اليقين (uncertainty quantification): فهي تقيس وتحدد كمية عدم اليقين في مخرجات الذكاء الاصطناعي بطريقة مفصلة وموثوقة.
كيف يعمل؟
من خلال تزويد النماذج بالوعي بعدم اليقين، يمكنها إرفاق علامات المخاطر أو الموثوقية بمخرجاتها. على سبيل المثال: يمكن لسيارة ذاتية القيادة الإشارة إلى أنها غير متأكدة من موقف ما وبالتالي تفعيل التدخل البشري. هذا لا يرفع مستوى الأمان فحسب، بل يزيد أيضاً من ثقة المستخدمين في أنظمة الذكاء الاصطناعي.
- عند التكامل مع PyTorch، يتم تغليف النموذج (Wrapping) عبر
capsa_torch.wrapper()حيث يتكون الناتج من التنبؤ ومستوى الخطر معاً:
بالنسبة لشركة NetCare وعملائها، تمثل هذه التقنية خطوة هائلة إلى الأمام. يمكننا تقديم تطبيقات ذكاء اصطناعي ليست ذكية فحسب، بل آمنة أيضاً وأكثر قابلية للتنبؤ مع فرصة أقل للهلوسة. فهو يساعد المؤسسات في اتخاذ قرارات مبنية على أسس متينة وتقليل المخاطر عند إدخال الذكاء الاصطناعي في التطبيقات الحرجة للأعمال.
الخاتمة
معهد ماساتشوستس للتكنولوجيا (MIT) فريق يوضح أن مستقبل الذكاء الاصطناعي لا يدور حول أن يصبح أذكى فحسب، بل يتعلق أيضاً والأهم من ذلك بالعمل بشكل أكثر أماناً وعدالة. نحن في نت كير (NetCare) نؤمن بأن الذكاء الاصطناعي يصبح ذا قيمة حقيقية فقط عندما يكون شفافاً بشأن قيوده الخاصة. باستخدام أدوات قياس عدم اليقين المتقدمة مثل Capsa، يمكنك تطبيق هذه الرؤية على أرض الواقع أيضاً.
