ทีม MIT สอนโมเดล AI ในสิ่งพิมพ์ที่พวกเขายังไม่รู้

การประยุกต์ใช้ปัญญาประดิษฐ์ (AI) เติบโตอย่างรวดเร็วและเข้ามามีบทบาทในชีวิตประจำวันของเรา รวมถึงอุตสาหกรรมที่มีความเสี่ยงสูง เช่น การดูแลสุขภาพ โทรคมนาคม และพลังงาน แต่ด้วยพลังที่ยิ่งใหญ่ก็มาพร้อมกับความรับผิดชอบที่ใหญ่ยิ่งเช่นกัน ระบบ AI บางครั้งอาจทำผิดพลาดหรือให้คำตอบที่ไม่แน่นอนซึ่งอาจส่งผลกระทบตามมาอย่างมหาศาล

ทำไมเรื่องนี้ถึงสำคัญมาก?
โมเดล AI จำนวนมาก แม้แต่รุ่นที่ก้าวหน้า ก็ยังสามารถแสดงสิ่งที่เรียกว่า 'การหลอน' (Hallucination) ได้ นั่นคือการให้คำตอบที่ผิดพลาดหรือไม่ทีที่มาที่ไป ในภาคส่วนที่การตัดสินใจมีความสำคัญสูง เช่น การวินิจฉัยทางการแพทย์หรือการขับขี่อัตโนมัติ สิ่งนี้อาจส่งผลหายนะได้ Themis AI ได้พัฒนา Capsa ซึ่งเป็นแพลตฟอร์มที่ใช้การหาปริมาณความไม่แน่นอน (Uncertainty Quantification) โดยจะทำการวัดและประเมินความไม่แน่นอนของผลลัพธ์จาก AI ในลักษณะที่มีรายละเอียดและเชื่อถือได้

 มันทำงานอย่างไร?
ด้วยการทำให้โมเดลมีความตระหนักรู้ถึงความไม่แน่นอน (Uncertainty Awareness) ทำให้พวกเขาสามารถกำกับป้ายความเสี่ยงหรือความน่าเชื่อถือให้กับผลลัพธ์ได้ ตัวอย่างเช่น รถยนต์ขับเคลื่อนอัตโนมัติสามารถระบุได้ว่าตนเองไม่มั่นใจในสถานการณ์นั้นๆ และส่งสัญญาณเรียกให้มนุษย์เข้ามาแทรกแซง สิ่งนี้ไม่เพียงแต่เพิ่มความปลอดภัยเท่านั้น แต่ยังเพิ่มความเชื่อมั่นของผู้ใช้ที่มีต่อระบบ AI ด้วย

บทสรุป
ทีม ทีมงาน จาก MIT แสดงให้เห็นว่าอนาคตของ AI ไม่ได้เกี่ยวกับการฉลาดขึ้นเพียงอย่างเดียว แต่ที่สำคัญกว่าคือการทำงานที่ปลอดภัยและยุติธรรมยิ่งขึ้น ที่ NetCare เราเชื่อว่า AI จะมีคุณค่าอย่างแท้จริงก็ต่อเมื่อมีความโปร่งใสเกี่ยวกับข้อจำกัดของตนเอง ด้วยเครื่องมือการหาปริมาณความไม่แน่นอนที่ก้าวหน้าอย่าง Capsa จะช่วยให้คุณสามารถนำวิสัยทัศน์นี้ไปปฏิบัติจริงได้เช่นกัน