Tim MIT mengajarkan model AI hal-hal yang belum mereka ketahui.
Penerapan kecerdasan buatan (AI) berkembang pesat dan semakin terintegrasi dengan kehidupan sehari-hari kita serta industri berisiko tinggi seperti kesehatan, telekomunikasi, dan energi. Namun dengan kekuatan besar juga datang tanggung jawab besar: sistem AI terkadang membuat kesalahan atau memberikan jawaban yang tidak pasti yang dapat berdampak besar.
Themis AI dari MIT, yang ikut didirikan dan dipimpin oleh profesor Daniela Rus dari laboratorium CSAIL, menawarkan solusi terobosan. Teknologi mereka memungkinkan model AI untuk ‘mengetahui apa yang tidak mereka ketahui’. Ini berarti sistem AI dapat menunjukkan sendiri ketika mereka tidak yakin terhadap prediksinya, sehingga kesalahan dapat dicegah sebelum menyebabkan kerugian.
Mengapa ini begitu penting?
Banyak model AI, bahkan yang canggih, terkadang menunjukkan apa yang disebut 'halusinasi' — mereka memberi jawaban yang keliru atau tidak berdasar. Di sektor di mana keputusan memiliki konsekuensi besar, seperti diagnosis medis atau mengemudi otonom, hal ini bisa berakibat fatal. Themis AI mengembangkan Capsa, sebuah platform yang menerapkan kuantifikasi ketidakpastian: platform ini mengukur dan mengkuantifikasi ketidakpastian keluaran AI secara rinci dan andal.
Bagaimana cara kerjanya?
Dengan mengajarkan model kesadaran ketidakpastian (uncertainty awareness), mereka dapat memberikan output dengan label risiko atau keandalan. Misalnya: mobil otonom dapat menunjukkan bahwa ia tidak yakin terhadap suatu situasi dan dengan demikian mengaktifkan intervensi manusia. Ini tidak hanya meningkatkan keselamatan, tetapi juga kepercayaan pengguna terhadap sistem AI.
- Saat integrasi dengan PyTorch, pembungkusan model dilakukan melalui
capsa_torch.wrapper()di mana keluaran terdiri dari prediksi serta risiko:
Bagi NetCare dan para pelanggannya, teknologi ini merupakan langkah maju yang besar. Kami dapat menghadirkan aplikasi AI yang tidak hanya cerdas, tetapi juga aman dan lebih dapat diprediksi dengan risiko halusinasi yang lebih rendah. Ini membantu organisasi membuat keputusan yang lebih berbasis bukti dan mengurangi risiko saat menerapkan AI dalam aplikasi yang kritis bagi bisnis.
Kesimpulan
MIT tim menunjukkan bahwa masa depan AI tidak hanya tentang menjadi lebih pintar, tetapi lebih penting lagi tentang berfungsi dengan lebih aman dan lebih adil. Di NetCare kami percaya AI baru benar-benar bernilai ketika transparan mengenai keterbatasannya sendiri. Dengan alat kuantifikasi ketidakpastian tingkat lanjut seperti Capsa, Anda dapat mewujudkan visi itu dalam praktik.
