MIT टीम ने AI मॉडल को वह सिखाया जो वे अभी तक नहीं जानते थे।

कृत्रिम बुद्धिमत्ता (AI) का अनुप्रयोग तेजी से बढ़ रहा है और यह हमारे दैनिक जीवन तथा स्वास्थ्य सेवा, दूरसंचार और ऊर्जा जैसे उच्च-जोखिम वाले उद्योगों में तेजी से समाहित हो रहा है। लेकिन बड़ी शक्ति के साथ बड़ी जिम्मेदारी भी आती है: AI सिस्टम कभी-कभी गलतियाँ करते हैं या अनिश्चित उत्तर देते हैं जिसके गंभीर परिणाम हो सकते हैं।

यह इतना महत्वपूर्ण क्यों है?
कई AI मॉडल, यहां तक कि उन्नत मॉडल भी, कभी-कभी तथाकथित 'ह्यूसिनेशन' (भ्रम) प्रदर्शित करते हैं—वे गलत या निराधार उत्तर देते हैं। चिकित्सा निदान या स्वायत्त ड्राइविंग जैसे गंभीर निर्णयों वाले क्षेत्रों में, इसके विनाशकारी परिणाम हो सकते हैं। थेमिस AI ने कैप्ससा (Capsa) विकसित किया है, एक ऐसा प्लेटफॉर्म जो अनिश्चितता मात्रा निर्धारण (uncertainty quantification) लागू करता है: यह विस्तृत और विश्वसनीय तरीके से AI आउटपुट की अनिश्चितता को मापता और परिमाणित करता है।

 यह कैसे काम करता है?
मॉडलों को अनिश्चितता के प्रति जागरूक करके, वे आउटपुट को जोखिम या विश्वसनीयता लेबल प्रदान कर सकते हैं। उदाहरण के लिए: एक सेल्फ-ड्राइविंग कार यह संकेत दे सकती है कि वह किसी स्थिति के बारे में निश्चित नहीं है और इसलिए मानवीय हस्तक्षेप को सक्रिय कर सकती है। यह न केवल सुरक्षा को बढ़ाता है, बल्कि AI सिस्टम में उपयोगकर्ताओं के विश्वास को भी बढ़ाता है।

निष्कर्ष
एमआईटी टीम यह दिखाता है कि AI का भविष्य केवल होशियार होने के बारे में नहीं है, बल्कि मुख्य रूप से सुरक्षित और अधिक निष्पक्ष रूप से काम करने के बारे में है। नेटकेयर में हमारा मानना है कि AI तभी वास्तव में मूल्यवान बनता है जब वह अपनी सीमाओं के बारे में पारदर्शी हो। कैप्ससा (Capsa) जैसे उन्नत अनिश्चितता मात्रा निर्धारण टूल के साथ आप इस विजन को अभ्यास में भी ला सकते हैं।