Η ομάδα του MIT διδάσκει στα μοντέλα τεχνητής νοημοσύνης όσα δεν γνώριζαν.

Η ομάδα του MIT διδάσκει στα μοντέλα τεχνητής νοημοσύνης όσα δεν γνώριζαν.

Η εφαρμογή της τεχνητής νοημοσύνης (AI) αναπτύσσεται ραγδαία και ενσωματώνεται όλο και περισσότερο στην καθημερινότητά μας και σε κρίσιμους κλάδους όπως η υγειονομική περίθαλψη, οι τηλεπικοινωνίες και η ενέργεια. Όμως, με τη μεγάλη δύναμη έρχεται και η μεγάλη ευθύνη: τα συστήματα AI μερικές φορές κάνουν λάθη ή δίνουν αβέβαιες απαντήσεις που μπορεί να έχουν σοβαρές συνέπειες.

Το Themis AI του MIT, που συνιδρύθηκε και διευθύνεται από την καθηγήτρια Daniela Rus του εργαστηρίου CSAIL, προσφέρει μια πρωτοποριακή λύση. Η τεχνολογία τους επιτρέπει στα μοντέλα AI να «γνωρίζουν τι δεν γνωρίζουν». Αυτό σημαίνει ότι τα συστήματα AI μπορούν να υποδείξουν μόνα τους πότε είναι αβέβαια για τις προβλέψεις τους, αποτρέποντας έτσι λάθη πριν προκαλέσουν ζημιά.

Γιατί είναι τόσο σημαντικό;
Πολλά μοντέλα AI, ακόμη και τα προηγμένα, μπορούν μερικές φορές να εμφανίσουν αυτό που ονομάζεται «παραισθήσεις» — δίνουν λανθασμένες ή αβάσιμες απαντήσεις. Σε τομείς όπου οι αποφάσεις έχουν μεγάλο βάρος, όπως η ιατρική διάγνωση ή η αυτόνομη οδήγηση, αυτό μπορεί να έχει καταστροφικές συνέπειες. Το Themis AI ανέπτυξε το Capsa, μια πλατφόρμα που εφαρμόζει την ποσοτικοποίηση της αβεβαιότητας: μετρά και ποσοτικοποιεί την αβεβαιότητα της παραγωγής AI με λεπτομερή και αξιόπιστο τρόπο.

Πώς λειτουργεί;
Ενσωματώνοντας την επίγνωση της αβεβαιότητας στα μοντέλα, μπορούν να παρέχουν στις εξόδους μια ετικέτα κινδύνου ή αξιοπιστίας. Για παράδειγμα: ένα αυτοοδηγούμενο αυτοκίνητο μπορεί να υποδείξει ότι δεν είναι σίγουρο για μια κατάσταση και επομένως να ενεργοποιήσει μια ανθρώπινη παρέμβαση. Αυτό όχι μόνο αυξάνει την ασφάλεια, αλλά και την εμπιστοσύνη των χρηστών στα συστήματα AI.

Παραδείγματα τεχνικής υλοποίησης

Κατά την ενσωμάτωση με το PyTorch, η ενθυλάκωση του μοντέλου γίνεται μέσω του capsa_torch.wrapper(), όπου η έξοδος αποτελείται τόσο από την πρόβλεψη όσο και από τον κίνδυνο:

Για τα μοντέλα TensorFlow, το Capsa λειτουργεί με έναν διακοσμητή:

Ο αντίκτυπος για τις επιχειρήσεις και τους χρήστες
Για την NetCare και τους πελάτες της, αυτή η τεχνολογία σημαίνει ένα τεράστιο βήμα προς τα εμπρός. Μπορούμε να παρέχουμε εφαρμογές AI που δεν είναι μόνο έξυπνες, αλλά και ασφαλείς και πιο προβλέψιμες με λιγότερες πιθανότητες παραισθήσεων. Βοηθά τους οργανισμούς να λαμβάνουν πιο τεκμηριωμένες αποφάσεις και να μειώνουν τους κινδύνους κατά την εισαγωγή της AI σε κρίσιμες για την επιχείρηση εφαρμογές.

Συμπέρασμα
Η ομάδα του MIT δείχνει ότι το μέλλον της AI δεν αφορά μόνο το να γίνει πιο έξυπνη, αλλά κυρίως το να λειτουργεί πιο ασφαλής και πιο δίκαια. Στην NetCare πιστεύουμε ότι η AI γίνεται πραγματικά πολύτιμη μόνο όταν είναι διαφανής σχετικά με τους δικούς της περιορισμούς. Με προηγμένα εργαλεία ποσοτικοποίησης της αβεβαιότητας όπως το Capsa, μπορείτε να εφαρμόσετε αυτό το όραμα στην πράξη.

Η ομάδα του MIT διδάσκει στα μοντέλα τεχνητής νοημοσύνης όσα δεν γνώριζαν.

Gerard