MIT‑Team lehrt KI‑Modelle, was sie noch nicht wussten.
Der Einsatz von künstlicher Intelligenz (KI) wächst schnell und wird immer stärker mit unserem täglichen Leben sowie hochriskanten Branchen wie Gesundheitswesen, Telekommunikation und Energie verknüpft. Doch mit großer Macht kommt auch große Verantwortung: KI-Systeme machen manchmal Fehler oder geben unsichere Antworten, die erhebliche Folgen haben können.
MITs Themis KI, mitbegründet und geleitet von Professorin Daniela Rus vom CSAIL-Labor, bietet eine bahnbrechende Lösung. Ihre Technologie ermöglicht es KI-Modellen, zu „wissen, was sie nicht wissen“. Das bedeutet, dass KI-Systeme selbst anzeigen können, wann sie unsicher bezüglich ihrer Vorhersagen sind, wodurch Fehler verhindert werden können, bevor sie Schaden anrichten.
Warum ist das so wichtig?
Viele KI-Modelle, selbst fortgeschrittene, können manchmal sogenannte „Halluzinationen“ zeigen – sie geben fehlerhafte oder unbegründete Antworten. In Bereichen, in denen Entscheidungen schwer wiegen, wie medizinische Diagnostik oder autonomes Fahren, kann das katastrophale Folgen haben. Themis KI entwickelte Capsa, eine Plattform, die Unsicherheitsquantifizierung anwendet: Sie misst und quantifiziert die Unsicherheit von KI-Ausgaben auf detaillierte und zuverlässige Weise.
Wie funktioniert das?
Indem man Modellen ein Bewusstsein für Unsicherheit vermittelt, können sie Ausgaben mit einem Risiko‑ oder Vertrauenswürdigkeitslabel versehen. Zum Beispiel kann ein autonomes Fahrzeug anzeigen, dass es sich in einer Situation nicht sicher ist und daher eine menschliche Intervention auslösen. Das erhöht nicht nur die Sicherheit, sondern auch das Vertrauen der Nutzer in KI‑Systeme.
- Bei der Integration mit PyTorch geht es um das Wrappen des Modells über
capsa_torch.wrapper()wobei die Ausgabe sowohl die Vorhersage als auch das Risiko enthält:
Für NetCare und seine Kunden bedeutet diese Technologie einen enormen Fortschritt. Wir können KI‑Anwendungen liefern, die nicht nur intelligent, sondern auch sicher und besser vorhersehbar sind, mit geringerer Halluzinationswahrscheinlichkeit. Sie hilft Organisationen, fundiertere Entscheidungen zu treffen und Risiken bei der Einführung von KI in geschäftskritischen Anwendungen zu reduzieren.
Fazit
Das MIT Team zeigt, dass die Zukunft der KI nicht nur darin besteht, intelligenter zu werden, sondern vor allem sicherer und gerechter zu funktionieren. Bei NetCare glauben wir, dass KI erst dann wirklich wertvoll wird, wenn sie transparent über ihre eigenen Grenzen ist. Mit fortschrittlichen Unsicherheitsquantifizierungs‑Tools wie Capsa können Sie diese Vision auch in die Praxis umsetzen.
