MIT团队让AI模型学习它们尚未掌握的知识。
人工智能（AI）的应用快速增长，日益融入我们的日常生活以及医疗、通信和能源等高风险行业。但强大的力量伴随巨大的责任：AI系统有时会出错或给出不确定的答案，可能导致严重后果。
MIT的Themis AI，由CSAIL实验室的Daniela Rus教授共同创立并领导，提供了一项突破性解决方案。他们的技术使AI模型能够“知道自己不知道的事”。这意味着AI系统可以自行指示何时对预测不确定，从而在造成损害之前防止错误发生。
这为何如此重要？
许多AI模型，即使是先进的，有时也会出现所谓的“幻觉”——给出错误或无依据的答案。在决策至关重要的领域，如医学诊断或自动驾驶，这可能导致灾难性后果。Themis AI开发了Capsa平台，采用不确定性量化：以详细且可靠的方式测量并量化AI输出的不确定性。
它是如何运作的？
通过赋予模型不确定性感知，它们可以为输出附加风险或可信度标签。例如：自动驾驶汽车可以指示对某种情形不确定，从而触发人工干预。这不仅提升了安全性，也增强了用户对AI系统的信任。
技术实现示例
- 在与PyTorch集成时，通过以下方式包装模型：
capsa_torch.wrapper()其输出包括预测结果和风险：
对于TensorFlow模型，Capsa通过装饰器工作：
对企业和用户的影响
对NetCare及其客户而言，这项技术意味着一次巨大的进步。我们能够提供不仅智能且更安全、更可预测、且幻觉风险更低的AI应用。这帮助组织做出更有依据的决策，并在将AI引入关键业务应用时降低风险。
对NetCare及其客户而言，这项技术意味着一次巨大的进步。我们能够提供不仅智能且更安全、更可预测、且幻觉风险更低的AI应用。这帮助组织做出更有依据的决策，并在将AI引入关键业务应用时降低风险。
结论
MIT 团队 表明AI的未来不仅在于变得更聪明，更在于实现更安全、更公平的运行。NetCare相信，AI只有在对自身局限透明时才真正有价值。借助Capsa等先进的不确定性量化工具，您也可以将这一愿景付诸实践。
