Η ομάδα του MIT διδάσκει μοντέλα AI όσα δεν ήξεραν ακόμη.
Η εφαρμογή της τεχνητής νοημοσύνης (AI) αναπτύσσεται γρήγορα και ενσωματώνεται όλο και περισσότερο στην καθημερινή μας ζωή και σε βιομηχανίες υψηλού κινδύνου όπως η υγειονομική περίθαλψη, οι τηλεπικοινωνίες και η ενέργεια. Ωστόσο, με τη μεγάλη δύναμη έρχεται και μεγάλη ευθύνη: τα συστήματα AI μερικές φορές κάνουν λάθη ή δίνουν αβέβαιες απαντήσεις που μπορούν να έχουν σοβαρές συνέπειες.
Το Themis AI του MIT, συνιδρυμένο και διοικούμενο από την καθηγήτρια Daniela Rus από το εργαστήριο CSAIL, προσφέρει μια καινοτόμο λύση. Η τεχνολογία τους επιτρέπει στα μοντέλα AI να «γνωρίζουν τι δεν γνωρίζουν». Αυτό σημαίνει ότι τα συστήματα AI μπορούν να υποδείξουν μόνοι τους πότε είναι αβέβαια σχετικά με τις προβλέψεις τους, αποτρέποντας έτσι σφάλματα πριν προκαλέσουν ζημιά.
Γιατί είναι τόσο σημαντικό αυτό;
Πολλά μοντέλα AI, ακόμη και προχωρημένα, μπορούν μερικές φορές να παρουσιάσουν τις λεγόμενες «ψευδείς απαντήσεις»—δίνουν λανθασμένες ή αβάσιμες απαντήσεις. Σε τομείς όπου οι αποφάσεις έχουν μεγάλο βάρος, όπως η ιατρική διάγνωση ή η αυτόνομη οδήγηση, αυτό μπορεί να έχει καταστροφικές συνέπειες. Η Themis AI ανέπτυξε το Capsa, μια πλατφόρμα που εφαρμόζει την ποσοτικοποίηση αβεβαιότητας: μετρά και ποσοτικοποιεί την αβεβαιότητα των εξόδων AI με λεπτομερή και αξιόπιστο τρόπο.
Πώς λειτουργεί;
Με την ενσωμάτωση της συνειδητοποίησης αβεβαιότητας στα μοντέλα, μπορούν να εφοδιάσουν τις εξόδους με ετικέτα κινδύνου ή αξιοπιστίας. Για παράδειγμα, ένα αυτόνομο όχημα μπορεί να υποδείξει ότι δεν είναι σίγουρο για μια κατάσταση και έτσι να ενεργοποιήσει ανθρώπινη παρέμβαση. Αυτό όχι μόνο αυξάνει την ασφάλεια, αλλά και την εμπιστοσύνη των χρηστών στα συστήματα AI.
- Κατά την ενσωμάτωση με το PyTorch, η περιτύλιξη του μοντέλου γίνεται μέσω
capsa_torch.wrapper()όπου η έξοδος αποτελείται τόσο από την πρόβλεψη όσο και από τον κίνδυνο:
Για τη NetCare και τους πελάτες της, αυτή η τεχνολογία σημαίνει ένα τεράστιο βήμα μπροστά. Μπορούμε να παρέχουμε εφαρμογές AI που δεν είναι μόνο έξυπνες, αλλά και ασφαλείς και πιο προβλέψιμες, με μικρότερη πιθανότητα ψευδών απαντήσεων. Βοηθά τις οργανώσεις να λαμβάνουν καλύτερα τεκμηριωμένες αποφάσεις και να μειώνουν τους κινδύνους κατά την ενσωμάτωση της AI σε κρίσιμες επιχειρηματικές εφαρμογές.
Συμπέρασμα
Το MIT ομάδα δείχνει ότι το μέλλον της AI δεν αφορά μόνο το να γίνει πιο έξυπνη, αλλά κυρίως να λειτουργεί πιο ασφαλώς και δίκαια. Στη NetCare πιστεύουμε ότι η AI γίνεται πραγματικά πολύτιμη μόνο όταν είναι διαφανής σχετικά με τους δικούς της περιορισμούς. Με προηγμένα εργαλεία ποσοτικοποίησης αβεβαιότητας όπως το Capsa, μπορείτε να υλοποιήσετε αυτήν την όραση στην πράξη.
