MIT团队教导AI模型它们尚不知道的事。
人工智能（AI）的应用正在迅速增长，并日益融入我们的日常生活以及医疗保健、电信和能源等高风险行业。但能力越大，责任越大：AI系统有时会犯错或给出不确定的答案，从而产生重大后果。
为什么这如此重要？
许多AI模型，甚至是高级模型，有时也会表现出所谓的“幻觉”——它们给出错误或毫无根据的回答。在决策至关重要的行业（如医疗诊断或自动驾驶），这可能会带来灾难性的后果。Themis AI开发了Capsa，这是一个应用不确定性量化（uncertainty quantification）的平台：它以详细且可靠的方式测量和量化AI输出的不确定性。
它是如何工作的？
通过培养模型的不确定性意识，它们可以在输出结果时附带风险或可靠性标签。例如：一辆自动驾驶汽车可以表明它对某个情况不确定，从而触发人工干预。这不仅提高了安全性，也增强了用户对AI系统的信任。
技术实现示例
- 在与PyTorch集成时，模型的包装（Wrapping）通过
capsa_torch.wrapper()输出既包含预测结果又包含风险：
对于 TensorFlow 模型，Capsa 使用了一个装饰器：
对企业和用户的影响
对于NetCare及其客户而言，这项技术意味着向前迈出了巨大的一步。我们可以提供不仅智能，而且安全、预测性更好且幻觉几率更低的AI应用。它帮助组织在将AI引入关键业务应用时，做出更明智的决策并降低风险。
对于NetCare及其客户而言，这项技术意味着向前迈出了巨大的一步。我们可以提供不仅智能，而且安全、预测性更好且幻觉几率更低的AI应用。它帮助组织在将AI引入关键业务应用时，做出更明智的决策并降低风险。
结论
麻省理工学院（MIT） 团队 表明，AI的未来不仅在于变得更聪明，更在于以更安全、更公平的方式运行。在NetCare，我们相信AI只有在对其自身的局限性保持透明时，才能真正变得有价值。借助Capsa等先进的不确定性量化工具，您也可以在实践中实现这一愿景。
