麻省理工学院团队教人工智能模型它们不知道的东西。

人工智能 (AI) 的应用正在迅速增长，并日益融入我们的日常生活和医疗保健、电信和能源等高风险行业。但能力越大，责任也越大：人工智能系统有时会犯错或给出不确定的答案，这可能会产生严重后果。

麻省理工学院的 Themis AI 由 CSAIL 实验室的 Daniela Rus 教授共同创立和领导，提供了一个突破性的解决方案。他们的技术使人工智能模型能够“知道自己不知道什么”。这意味着人工智能系统可以自行指示何时对其预测不确定，从而在错误造成损害之前防止它们。

为什么这如此重要？
许多人工智能模型，即使是先进的模型，有时也会出现所谓的“幻觉”——它们给出错误或没有根据的答案。在医疗诊断或自动驾驶等决策权重很大的领域，这可能会产生灾难性的后果。Themis AI 开发了 Capsa，一个应用不确定性量化的平台：它以详细和可靠的方式测量和量化人工智能输出的不确定性。

 它是如何工作的？
通过赋予模型不确定性感知能力，它们可以为输出提供风险或可靠性标签。例如：一辆自动驾驶汽车可以指示它不确定某种情况，因此激活人工干预。这不仅提高了安全性，还提高了用户对人工智能系统的信任。

结论
麻省理工学院 团队 表明，人工智能的未来不仅在于变得更智能，更在于更安全、更公平地运行。在 NetCare，我们相信人工智能只有在对其自身局限性透明时才真正有价值。借助 Capsa 等先进的不确定性量化工具，您也可以将这一愿景付诸实践。