Ομάδα του MIT μαθαίνει στα μοντέλα τεχνητής νοημοσύνης αυτά που δεν γνωρίζουν ακόμη.
Η εφαρμογή της τεχνητής νοημοσύνης (AI) αυξάνεται ταχύτατα και συνδέεται όλο και περισσότερο με την καθημερινότητά μας και κλάδους υψηλού ρίσκου, όπως η υγειονομική περίθαλψη, οι τηλεπικοινωνίες και η ενέργεια. Αλλά με τη μεγάλη ισχύ έρχεται και μεγάλη ευθύνη: τα συστήματα τεχνητής νοημοσύνης μερικές φορές κάνουν λάθη ή δίνουν αβεβαιες απαντήσεις που μπορούν να έχουν σημαντικές συνέπειες.
Γιατί είναι αυτό τόσο σημαντικό;
Πλλά μοντέλα τεχνητής νοημοσύνης, ακόμη και προηγμένα, μπορούν μερικές φορές να εμφανίσουν τις λεγόμενες «ψευδαισθήσεις» — παρέχουν λανθασμένες ή αedακmηκές απαντήσεις. Σε τομείς όπου οι αποφάσεις είναι κρίσιμες, όπως η ιατρική διάγνωση ή η αυτόνομη οδήγηση, αυτό μπορεί να έχει καταστrofικές συνέπειες. Η Themis AI ανέπτυξε το Capsa, μια πλατφόρμα που εφαρμόζει τον ποσοτικό προσδιορισμό της αβεβαιότητας (uncertainty quantification): μετρά και ποσοτικοποιεί την αβεβαιότητα των αποτελεσμάτων της τεχνητής νοημοσύνης με λεπτομερή και αξιόπιστο τρόπο.
Πώς λειτουργεί;
Ενσταλάσσοντας στα μοντέλα επίγνωση της αβεβαιότητας, μπορούν να συνοδεύουν τις εξόδους τους με μια ετικέτα κινδύνου ή αξιοπιστίας. Για παράδειγμα: ένα αυτοδιοικούμενο αυτοκίνητο μπορεί να υποδείξει ότι δεν είναι σίγουρο για μια κατάσταση και συνεπώς να ενεργοποιήσει ανθρώπινη παρέμβαση. Αυτό αυξάνει όχι μόνο την ασφάλεια, αλλά και την εμπιστοσύνη των χρηστών στα συστήματα τεχνητής νοημοσύνης.
- Κατά την ενσωμάτωση με το PyTorch, η αναδίπλωση (wrapping) του μοντέλου γίνεται μέσω
capsa_torch.wrapper()όπου η έξοδος αποτελείται τόσο από την πρόβλεψη όσο και από τον κίνδυνο:
Για τη NetCare και τους πελάτες της, αυτή η τεχνολογία σημαίνει ένα τεράστιο βήμα μπροστά. Μπορούμε να παρέχουμε εφαρμογές τεχνητής νοημοσύνης που δεν είναι μόνο έξυπνες, αλλά και ασφαλείς και πιο προβλέψιμες, με λιγότερες πιθανότητες παραισθήσεων. Αυτό βοηθά τους οργανισμούς να λαμβάνουν καλύτερα τεκμηριωμένες αποφάσεις και να μειώνουν τους κινδύνους κατά την εισαγωγή της τεχνητής νοημοσύνης σε κρίσιμες για την επιχείρηση εφαρμογές.
Συμπέρασμα
Το MIT ομάδα δείχνει ότι το μέλλον της τεχνητής νοημοσύνης δεν αφορά μόνο το να γίνεται εξυπνότερη, αλλά κυρίως το να λειτουργεί με ασφάλεια και δικαιοσύνη. Στη NetCare πιστεύουμε ότι η τεχνητή νοημοσύνη γίνεται πραγματικά πολύτιμη μόνο όταν είναι διαφανής σχετικά με τους περιορισμούς της. Με προηγμένα εργαλεία ποσοτικοποίησης αβεβαιότητας όπως το Capsa, μπορείτε κι εσείς να κάνετε αυτό το όραμα πράξη.
