فريق معهد ماساتشوستس للتكنولوجيا يعلّم نماذج الذكاء الاصطناعي ما لم تكن تعرفه بعد.
يتزايد تطبيق الذكاء الاصطناعي (AI) بسرعة ويتشابك بشكل متزايد مع حياتنا اليومية والصناعات الحساسة مثل الرعاية الصحية والاتصالات والطاقة. ولكن مع القوة العظيمة تأتي مسؤولية عظيمة: قد ترتكب أنظمة الذكاء الاصطناعي أخطاءً أو تقدم إجابات غير مؤكدة قد تكون لها عواقب وخيمة.
يقدم Themis AI التابع لمعهد ماساتشوستس للتكنولوجيا (MIT)، والذي شاركت في تأسيسه وقيادته البروفيسورة دانييلا روس من مختبر CSAIL، حلاً رائداً. تتيح تقنيتهم لنماذج الذكاء الاصطناعي أن 'تعرف ما لا تعرفه'. وهذا يعني أن أنظمة الذكاء الاصطناعي يمكنها أن تشير بنفسها عندما تكون غير متأكدة من تنبؤاتها، مما يمنع الأخطاء قبل أن تسبب الضرر.
لماذا هذا مهم جداً؟
قد تُظهر العديد من نماذج الذكاء الاصطناعي، حتى المتقدمة منها، ما يسمى بـ 'الهلوسات' - حيث تقدم إجابات خاطئة أو لا أساس لها من الصحة. في القطاعات التي تكون فيها القرارات ذات وزن كبير، مثل التشخيص الطبي أو القيادة الذاتية، يمكن أن يكون لذلك عواقب وخيمة. طورت Themis AI منصة Capsa، التي تطبق قياس عدم اليقين: فهي تقيس وتحدد كمية عدم اليقين في مخرجات الذكاء الاصطناعي بطريقة مفصلة وموثوقة.
كيف يعمل ذلك؟
من خلال تزويد النماذج بوعي بعدم اليقين، يمكنها تزويد المخرجات بتصنيف للمخاطر أو الموثوقية. على سبيل المثال: يمكن للسيارة ذاتية القيادة أن تشير إلى أنها غير متأكدة من موقف معين، وبالتالي تفعيل تدخل بشري. هذا لا يزيد من السلامة فحسب، بل يزيد أيضًا من ثقة المستخدمين في أنظمة الذكاء الاصطناعي.
- عند التكامل مع PyTorch، يتم تغليف النموذج عبر
capsa_torch.wrapper()حيث يتكون الناتج من التنبؤ والمخاطرة على حد سواء:
بالنسبة لـ NetCare وعملائها، تمثل هذه التقنية خطوة هائلة إلى الأمام. يمكننا تقديم تطبيقات الذكاء الاصطناعي التي ليست ذكية فحسب، بل آمنة وأكثر قابلية للتنبؤ مع تقليل احتمالية الهلوسة. إنها تساعد المؤسسات في اتخاذ قرارات مستنيرة بشكل أفضل وتقليل المخاطر عند إدخال الذكاء الاصطناعي في التطبيقات الحيوية للأعمال.
الخلاصة
معهد ماساتشوستس للتكنولوجيا فريق يوضح أن مستقبل الذكاء الاصطناعي لا يتعلق فقط بأن يصبح أكثر ذكاءً، بل يتعلق بشكل أساسي بالعمل بشكل أكثر أمانًا وعدلاً. في نت كير (NetCare)، نؤمن بأن الذكاء الاصطناعي يصبح ذا قيمة حقيقية فقط عندما يكون شفافًا بشأن حدوده الخاصة. باستخدام أدوات متقدمة لقياس عدم اليقين مثل كابسا (Capsa)، يمكنك أيضًا تطبيق هذه الرؤية عمليًا.
