MITのチーム、AIモデルに未知の知識を教える

人工知能（AI）の活用は急速に拡大しており、私たちの日常生活だけでなく、医療、通信、エネルギーといった社会的影響の大きい産業にも、ますます深く組み込まれています。しかし、大きな力には大きな責任も伴います。AIシステムは時に誤りを犯したり、大きな影響を及ぼしかねない不確かな回答を返したりすることがあります。

なぜこれが重要なのでしょうか？
多くのAIモデルは、たとえ高度なものであっても、いわゆる「ハルシネーション」を起こすことがあります。つまり、誤った回答や根拠のない回答を生成するのです。医療診断や自動運転など、判断の重要性が非常に高い分野では、これは壊滅的な結果につながる可能性があります。Themis AIは、AIの出力の不確実性を詳細かつ信頼性の高い方法で測定・定量化する、不確実性定量化機能を備えたプラットフォーム「Capsa」を開発しました。

 どのように機能するのでしょうか？
モデルに不確実性を認識する能力を持たせることで、出力にリスクラベルや信頼度ラベルを付けられるようになります。たとえば、自動運転車が状況を確実には判断できないことを示し、そのため人間による介入を開始することができます。これにより安全性が高まるだけでなく、ユーザーのAIシステムに対する信頼も向上します。

結論
MIT（マサチューセッツ工科大学） チーム は、AIの未来が単に知能を高めることだけでなく、より安全かつ公正に機能することにもかかっていると示しています。NetCareでは、AIが自らの限界について透明性を持って初めて、本当の価値を発揮すると考えています。Capsaのような高度な不確実性定量化ツールを使えば、このビジョンを実際の運用に取り入れることができます。