Tim MIT mengajarkan model AI hal-hal yang belum mereka ketahui.
Penerapan kecerdasan buatan (AI) berkembang pesat dan semakin terjalin dalam kehidupan kita sehari-hari serta industri berisiko tinggi seperti layanan kesehatan, telekomunikasi, dan energi. Namun, dengan kekuatan besar datang tanggung jawab besar: sistem AI terkadang membuat kesalahan atau memberikan jawaban yang tidak pasti yang dapat menimbulkan konsekuensi besar.
Themis AI dari MIT, yang didirikan bersama dan dipimpin oleh Profesor Daniela Rus dari lab CSAIL, menawarkan solusi terobosan. Teknologi mereka memungkinkan model AI untuk ‘mengetahui apa yang tidak mereka ketahui’. Ini berarti sistem AI dapat menunjukkan sendiri ketika mereka tidak yakin dengan prediksinya, sehingga mencegah kesalahan sebelum menimbulkan kerugian.
Mengapa ini sangat penting?
Banyak model AI, bahkan yang canggih, terkadang dapat menunjukkan apa yang disebut ‘halusinasi’—mereka memberikan jawaban yang salah atau tidak berdasar. Di sektor-sektor di mana keputusan sangat penting, seperti diagnosis medis atau mengemudi otonom, hal ini dapat berakibat bencana. Themis AI mengembangkan Capsa, sebuah platform yang menerapkan kuantifikasi ketidakpastian (*uncertainty quantification*): platform ini mengukur dan menguantifikasi ketidakpastian keluaran AI secara rinci dan andal.
Bagaimana cara kerjanya?
Dengan membekali model dengan kesadaran ketidakpastian (uncertainty awareness), mereka dapat memberikan label risiko atau keandalan pada keluarannya. Misalnya, mobil otonom dapat mengindikasikan bahwa ia tidak yakin tentang suatu situasi dan oleh karena itu mengaktifkan intervensi manusia. Hal ini tidak hanya meningkatkan keselamatan, tetapi juga kepercayaan pengguna terhadap sistem AI.
- Saat berintegrasi dengan PyTorch, pembungkusan model dilakukan melalui
capsa_torch.wrapper()di mana outputnya terdiri dari prediksi dan risiko:
Bagi NetCare dan kliennya, teknologi ini merupakan langkah maju yang besar. Kami dapat menyediakan aplikasi AI yang tidak hanya cerdas, tetapi juga aman dan lebih mudah diprediksi dengan kemungkinan halusinasi yang lebih kecil. Ini membantu organisasi dalam membuat keputusan yang lebih terinformasi dan mengurangi risiko saat menerapkan AI dalam aplikasi yang penting bagi bisnis.
Kesimpulan
MIT tim menunjukkan bahwa masa depan AI tidak hanya tentang menjadi lebih pintar, tetapi terutama tentang berfungsi lebih aman dan lebih adil. Di NetCare, kami percaya bahwa AI baru benar-benar berharga ketika ia transparan mengenai keterbatasannya sendiri. Dengan alat kuantifikasi ketidakpastian canggih seperti Capsa, Anda juga dapat mewujudkan visi tersebut dalam praktik.
