Tim MIT Mengajari Model AI Hal yang Belum Mereka Ketahui.
Penerapan kecerdasan buatan (AI) berkembang pesat dan semakin terintegrasi dengan kehidupan sehari-hari kita serta industri berisiko tinggi seperti kesehatan, telekomunikasi, dan energi. Namun, kekuasaan yang besar juga disertai dengan tanggung jawab yang besar: sistem AI terkadang membuat kesalahan atau memberikan jawaban yang tidak pasti yang dapat berdampak besar.
Mengapa hal ini sangat penting?
Banyak model AI, bahkan yang canggih sekalipun, terkadang dapat menunjukkan apa yang disebut 'halusinasi'—mereka memberikan jawaban yang keliru atau tidak berdasar. Di sektor-sektor di mana keputusan memiliki bobot berat, seperti diagnosis medis atau berkendara otonom, hal ini dapat berakibat fatal. Themis AI mengembangkan Capsa, sebuah platform yang menerapkan kuantifikasi ketidakpastian (uncertainty quantification): platform ini mengukur dan mengkuantifikasi ketidakpastian dari keluaran AI dengan cara yang terperinci dan dapat diandalkan.
Bagaimana cara kerjanya?
Dengan membekali model kesadaran akan ketidakpastian (uncertainty awareness), mereka dapat menyertakan label risiko atau keandalan pada keluarannya. Contohnya: mobil swakemudi dapat menunjukkan bahwa ia tidak yakin dengan suatu situasi dan oleh karena itu memicu intervensi manusia. Hal ini tidak hanya meningkatkan keselamatan, tetapi juga kepercayaan pengguna terhadap sistem AI.
- Saat berintegrasi dengan PyTorch, pembungkusan (wrapping) model dilakukan melalui
capsa_torch.wrapper()di mana keluarannya terdiri dari prediksi sekaligus risiko:
Bagi NetCare dan para pelanggannya, teknologi ini merupakan langkah maju yang besar. Kami dapat menghadirkan aplikasi AI yang tidak hanya cerdas, tetapi juga aman dan lebih dapat diprediksi dengan risiko halusinasi yang lebih kecil. Hal ini membantu organisasi dalam membuat keputusan yang lebih berdasarkan data serta mengurangi risiko saat menerapkan AI dalam aplikasi yang krusial bagi bisnis.
Kesimpulan
MIT tim menunjukkan bahwa masa depan AI tidak hanya tentang menjadi lebih pintar, tetapi yang terpenting adalah berfungsi secara lebih aman dan adil. Di NetCare, kami percaya bahwa AI baru benar-benar bernilai jika ia transparan mengenai keterbatasannya sendiri. Dengan alat kuantifikasi ketidakpastian yang canggih seperti Capsa, Anda juga dapat mewujudkan visi tersebut dalam praktiknya.
