Η ομάδα του MIT διδάσκει στα μοντέλα ΤΝ όσα δεν γνώριζαν ήδη.
Η εφαρμογή της τεχνητής νοημοσύνης (ΤΝ) αναπτύσσεται ραγδαία και ενσωματώνεται όλο και περισσότερο στην καθημερινή μας ζωή και σε κλάδους υψηλού ρίσκου, όπως η υγειονομική περίθαλψη, οι τηλεπικοινωνίες και η ενέργεια. Ωστόσο, με τη μεγάλη δύναμη έρχεται και μεγάλη ευθύνη: τα συστήματα ΤΝ μερικές φορές κάνουν λάθη ή δίνουν αβέβαιες απαντήσεις που μπορεί να έχουν σοβαρές συνέπειες.
Το Themis AI του MIT, συνιδρυθμένο και καθοδηγούμενο από την καθηγήτρια Daniela Rus του εργαστηρίου CSAIL, προσφέρει μια πρωτοποριακή λύση. Η τεχνολογία τους επιτρέπει στα μοντέλα ΤΝ να «γνωρίζουν τι δεν γνωρίζουν». Αυτό σημαίνει ότι τα συστήματα ΤΝ μπορούν να υποδεικνύουν πότε είναι αβέβαια για τις προβλέψεις τους, αποτρέποντας έτσι λάθη πριν προκαλέσουν ζημιά.
Γιατί είναι αυτό τόσο σημαντικό;
Πολλά μοντέλα ΤΝ, ακόμη και τα προηγμένα, μπορεί μερικές φορές να εμφανίσουν λεγόμενες «ψευδαισθήσεις»—παρέχοντας λανθασμένες ή αβάσιμες απαντήσεις. Σε τομείς όπου οι αποφάσεις έχουν μεγάλο βάρος, όπως η ιατρική διάγνωση ή η αυτόνομη οδήγηση, αυτό μπορεί να έχει καταστροφικές συνέπειες. Η Themis AI ανέπτυξε το Capsa, μια πλατφόρμα που εφαρμόζει την ποσοτικοποίηση της αβεβαιότητας (uncertainty quantification): μετρά και ποσοτικοποιεί την αβεβαιότητα της εξόδου της ΤΝ με λεπτομερή και αξιόπιστο τρόπο.
Πώς λειτουργεί;
Door modellen bewust te maken van onzekerheid, kunnen ze outputs voorzien van een risico- of betrouwbaarheidslabel. Een zelfrijdende auto kan bijvoorbeeld aangeven dat het onzeker is over een situatie en daarom menselijke interventie activeren. Dit verhoogt niet alleen de veiligheid, maar ook het vertrouwen van gebruikers in AI-systemen.
- Κατά την ενσωμάτωση με το PyTorch, η ενθυλάκωση (Wrapping) του μοντέλου γίνεται μέσω
capsa_torch.wrapper()με την έξοδο να περιλαμβάνει τόσο την πρόβλεψη όσο και τον κίνδυνο:
Για την NetCare και τους πελάτες της, αυτή η τεχνολογία αντιπροσωπεύει ένα τεράστιο βήμα μπροστά. Μπορούμε να παρέχουμε εφαρμογές ΤΝ που δεν είναι μόνο έξυπνες, αλλά και ασφαλείς και πιο προβλέψιμες με λιγότερες πιθανότητες παραισθήσεων (hallucinations). Βοηθά τους οργανισμούς στη λήψη πιο τεκμηριωμένων αποφάσεων και στη μείωση των κινδύνων κατά την εισαγωγή της ΤΝ σε κρίσιμες για την επιχείρηση εφαρμογές.
Συμπέρασμα
Το MIT ομάδα laat zien dat de toekomst van AI niet alleen draait om slimmer worden, maar vooral ook om veiliger en eerlijker functioneren. Bij NetCare geloven we dat AI pas écht waardevol wordt als het transparant is over zijn eigen beperkingen. Met geavanceerde tools voor onzekerheidskwantificering zoals Capsa kunt u die visie ook in de praktijk brengen.
