MIT-Team bringt KI-Modellen bei, was sie bisher noch nicht wussten.
Der Einsatz künstlicher Intelligenz (KI) wächst rasant und ist zunehmend mit unserem Alltag sowie mit Branchen verbunden, in denen viel auf dem Spiel steht, etwa dem Gesundheitswesen, der Telekommunikation und der Energieversorgung. Doch große Macht bringt auch große Verantwortung mit sich: KI-Systeme machen mitunter Fehler oder liefern unsichere Antworten, die weitreichende Folgen haben können.
Warum ist das so wichtig?
Viele KI-Modelle, selbst hochentwickelte, können mitunter sogenannte „Halluzinationen“ zeigen – sie liefern falsche oder unbegründete Antworten. In Bereichen, in denen Entscheidungen weitreichende Konsequenzen haben, etwa bei medizinischen Diagnosen oder beim autonomen Fahren, kann dies verheerende Folgen haben. Themis AI hat Capsa entwickelt, eine Plattform, die Quantifizierung von Unsicherheit einsetzt: Sie misst und quantifiziert die Unsicherheit von KI-Ausgaben auf detaillierte und zuverlässige Weise.
Wie funktioniert das?
Indem man Modellen ein Bewusstsein für Unsicherheit vermittelt, können sie ihre Ausgaben mit einer Risiko- oder Zuverlässigkeitskennzeichnung versehen. So kann ein selbstfahrendes Auto beispielsweise angeben, dass es eine Situation nicht sicher einschätzen kann, und deshalb einen menschlichen Eingriff auslösen. Das erhöht nicht nur die Sicherheit, sondern auch das Vertrauen der Nutzer in KI-Systeme.
- Bei der Integration mit PyTorch erfolgt das Wrapping des Modells über
capsa_torch.wrapper()wobei die Ausgabe sowohl aus der Vorhersage als auch aus dem Risiko besteht:
Für NetCare und seine Kunden bedeutet diese Technologie einen enormen Fortschritt. Wir können KI-Anwendungen bereitstellen, die nicht nur intelligent, sondern auch sicherer und besser vorhersehbar sind und ein geringeres Risiko für Halluzinationen aufweisen. Sie unterstützt Organisationen dabei, fundiertere Entscheidungen zu treffen und Risiken bei der Einführung von KI in geschäftskritischen Anwendungen zu reduzieren.
Fazit
Das MIT Team zeigt, dass es bei der Zukunft der KI nicht nur darum geht, intelligenter zu werden, sondern vor allem darum, sicherer und fairer zu funktionieren. Bei NetCare sind wir überzeugt, dass KI erst dann wirklich wertvoll wird, wenn sie transparent mit ihren eigenen Grenzen umgeht. Mit fortschrittlichen Tools zur Quantifizierung von Unsicherheit wie Capsa können auch Sie diese Vision in die Praxis umsetzen.
