MITチーム、AIモデルに未知の知識を学習させる

人工知能（AI）の応用は急拡大しており、私たちの日常生活や、医療、通信、エネルギーといったハイステークスな産業へとますます深く組み込まれています。しかし、大きな力には大きな責任が伴います。AIシステムは時にミスを犯したり、重大な影響を及ぼしかねない不確実な回答を出力したりすることがあります。

なぜこれがこれほど重要なのか？
多くのAIモデルは、高度なものであっても、いわゆる「ハルシネーション（幻覚）」を引き起こすことがあります。つまり、誤った、または根拠のない回答を生成するのです。医療診断や自動運転など、下される決断の重い分野では、これが致命的な結果を招く可能性があります。Themis AIは、不確実性定量化（uncertainty quantification）を応用したプラットフォーム「Capsa」を開発しました。これは、AI出力の不確実性を詳細かつ信頼性の高い方法で測定・数値化するものです。

 どのように機能するのか？
モデルに不確実性に対する認識（uncertainty awareness）を持たせることで、出力にリスクや信頼性のラベルを付与できるようになります。例えば、自動運転車であれば、状況に対する確信が持てないことを検知し、人間の介入を促すことが可能です。これにより、安全性が向上するだけでなく、AIシステムに対するユーザーの信頼も高まります。

結論
MITの チーム は、AIの未来が単に賢くなることだけでなく、より安全かつ公正に機能することにあることを示しています。NetCareでは、AIは自らの限界に対して透明性を持つことで初めて真の価値を発揮すると考えています。Capsaのような高度な不確実性定量化ツールを活用すれば、そのビジョンを実践に移すことができます。