Das MIT-Team bringt KI-Modellen bei, was sie noch nicht wussten.
Der Einsatz von künstlicher Intelligenz (KI) wächst rasant und ist zunehmend mit unserem Alltag sowie kritischen Branchen wie dem Gesundheitswesen, der Telekommunikation und der Energiewirtschaft verflochten. Doch mit großer Macht geht auch große Verantwortung einher: KI-Systeme machen gelegentlich Fehler oder liefern unsichere Antworten, die schwerwiegende Folgen haben können.
Warum ist das so wichtig?
Viele KI-Modelle, selbst fortschrittliche, neigen bisweilen zu sogenannten „Halluzinationen“ – sie geben fehlerhafte oder unbegründete Antworten. In Sektoren mit tragweiten Entscheidungen, wie der medizinischen Diagnose oder dem autonomen Fahren, kann dies verheerende Folgen haben. Themis AI hat Capsa entwickelt, eine Plattform, die Unschärfequantifizierung (uncertainty quantification) anwendet: Sie misst und quantifiziert die Unsicherheit von KI-Ausgaben auf detaillierte und zuverlässige Weise.
Wie funktioniert das?
Indem Modellen ein Bewusstsein für Unsicherheiten vermittelt wird, können sie Ausgaben mit einem Risiko- oder Zuverlässigkeitslabel versehen. Zum Beispiel kann ein selbstfahrendes Auto signalisieren, dass es sich in einer Situation unsicher ist, und daher einen menschlichen Eingriff anfordern. Dies erhöht nicht nur die Sicherheit, sondern auch das Vertrauen der Nutzer in KI-Systeme.
- Bei der Integration mit PyTorch erfolgt das Wrapping des Modells über
capsa_torch.wrapper()wobei die Ausgabe sowohl aus der Vorhersage als auch aus dem Risiko besteht:
Für NetCare und seine Kunden bedeutet diese Technologie einen enormen Fortschritt. Wir können KI-Anwendungen bereitstellen, die nicht nur intelligent, sondern auch sicher und besser vorhersagbar sind, mit einem geringeren Risiko von Halluzinationen. Dies hilft Unternehmen dabei, fundiertere Entscheidungen zu treffen und Risiken bei der Einführung von KI in geschäftskritischen Anwendungen zu reduzieren.
Fazit
Das MIT Team zeigt, dass es bei der Zukunft der KI nicht nur darum geht, intelligenter zu werden, sondern vor allem auch um ein sichereres und fairen Funktionieren. Bei NetCare glauben wir, dass KI erst dann wirklich wertvoll wird, wenn sie transparent bezüglich ihrer eigenen Grenzen ist. Mit fortschrittlichen Tools zur Unsicherheitsquantifizierung wie Capsa können Sie diese Vision auch in die Praxis umsetzen.
