MITチームがAIモデルに未知の知識を学習させる。

人工知能（AI）の活用は急速に拡大しており、私たちの日常生活や、医療、通信、エネルギーといった重要な産業とますます密接に関わるようになっています。しかし、大きな力には大きな責任が伴います。AIシステムは時に誤りを犯したり、不確かな回答を生成したりすることがあり、それが重大な結果を招く可能性があるからです。

なぜこれが重要なのか？
高度なAIモデルであっても、いわゆる「ハルシネーション（幻覚）」を引き起こし、誤った、あるいは根拠のない回答をすることがあります。医療診断や自動運転など、意思決定の重みが大きい分野では、これは壊滅的な結果を招きかねません。Themis AIが開発した「Capsa」は、不確実性定量化（Uncertainty Quantification）を適用するプラットフォームであり、AIの出力における不確実性を詳細かつ信頼性の高い方法で測定・定量化します。

 仕組みは？
モデルに不確実性への認識（Uncertainty Awareness）を持たせることで、出力にリスクや信頼性のラベルを付与することが可能になります。例えば、自動運転車が状況判断に確信が持てない場合に、人間の介入を促すといった対応が可能です。これは安全性を高めるだけでなく、AIシステムに対するユーザーの信頼向上にもつながります。

結論
MITの チーム 研究チームは、AIの未来が単に賢くなることだけでなく、より安全かつ公平に機能することにあると示しています。NetCareでは、AIは自身の限界について透明性がある場合にのみ、真の価値を発揮すると考えています。Capsaのような高度な不確実性定量化ツールを活用することで、このビジョンを実践に移すことができます。