Η πιο επικίνδυνη απάντηση της τεχνητής νοημοσύνης δεν είναι απαραίτητα εκείνη που φαίνεται παράλογη. Είναι εκείνη που ακούγεται απολύτως σωστή, ενώ δεν είναι. Και όσο περισσότερο εμπιστευόμαστε την AI, τόσο περισσότερο χρειάζεται να μάθουμε πότε να την αμφισβητούμε.
Υπάρχει κάτι σχεδόν καθησυχαστικό στον τρόπο με τον οποίο απαντά η τεχνητή νοημοσύνη.
Της κάνουμε μια ερώτηση και, μέσα σε λίγα δευτερόλεπτα, εμφανίζεται μπροστά μας ένα καλογραμμένο κείμενο. Με εισαγωγή, επιχειρήματα, παραδείγματα, συμπεράσματα και συχνά πηγές. Δεν φαίνεται να διστάζει. Δεν ψάχνει τις λέξεις της. Δεν δείχνει την αμηχανία ενός ανθρώπου που δεν γνωρίζει κάτι.
Και ακριβώς εκεί αρχίζει το πρόβλημα.
Έχουμε συνηθίσει να συνδέουμε τη σιγουριά με τη γνώση. Όμως στην τεχνητή νοημοσύνη, αυτά τα δύο δεν συμβαδίζουν απαραίτητα.
Ένα σύστημα μπορεί να μας δώσει τη σωστή απάντηση σε μια εξαιρετικά περίπλοκη ερώτηση και, λίγα δευτερόλεπτα αργότερα, να κάνει λάθος σε ένα απλό ιστορικό γεγονός. Μπορεί να αναλύσει ένα μεγάλο έγγραφο, αλλά να αποδώσει σε κάποιον μια φράση που δεν είπε ποτέ. Μπορεί να παρουσιάσει μια ανύπαρκτη μελέτη με τόσο πειστικό τρόπο ώστε να μην αισθανθούμε καν την ανάγκη να την ελέγξουμε.
Το ερώτημα, λοιπόν, δεν είναι μόνο πόσο έξυπνη γίνεται η AI.
Είναι πόσο προσεκτικοί παραμένουμε εμείς όταν τη χρησιμοποιούμε.
Τι είναι οι «παραισθήσεις» της τεχνητής νοημοσύνης;
Στον χώρο της τεχνητής νοημοσύνης χρησιμοποιείται συχνά ο όρος hallucinations, δηλαδή «παραισθήσεις», για να περιγράψει περιπτώσεις στις οποίες ένα μοντέλο παράγει ανακριβείς ή επινοημένες πληροφορίες.
Ο όρος είναι κάπως παραπλανητικός, επειδή παραπέμπει σε ανθρώπινη εμπειρία. Η AI δεν βλέπει κάτι που δεν υπάρχει, όπως θα μπορούσε να συμβεί σε έναν άνθρωπο. Παράγει μια απάντηση που μπορεί να μοιάζει εύλογη, χωρίς απαραίτητα να αντιστοιχεί στην πραγματικότητα.
Το φαινόμενο δεν είναι απλώς μια ατέλεια κάποιας συγκεκριμένης εφαρμογής. Συνδέεται με τον τρόπο λειτουργίας των παραγωγικών γλωσσικών μοντέλων.
Τα συστήματα αυτά έχουν εκπαιδευτεί να αναγνωρίζουν πολύπλοκα μοτίβα στη γλώσσα και να παράγουν κατάλληλες απαντήσεις. Αυτό τους επιτρέπει να γράφουν, να συνοψίζουν, να μεταφράζουν και να εξηγούν εντυπωσιακά καλά.
Δεν σημαίνει, όμως, ότι κάθε πρόταση που παράγουν έχει προηγουμένως διασταυρωθεί με μια αξιόπιστη πηγή.
Ακόμη και όταν ένα εργαλείο χρησιμοποιεί αναζήτηση στο διαδίκτυο, η ύπαρξη πηγών δεν εγγυάται ότι τις έχει ερμηνεύσει σωστά.
Το αμερικανικό Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας, γνωστό ως NIST, αντιμετωπίζει αυτές τις ανακριβείς αλλά πειστικές απαντήσεις ως πραγματικό κίνδυνο, ιδιαίτερα όταν επηρεάζουν σημαντικές αποφάσεις.
Γιατί μας ξεγελούν τόσο εύκολα;
Ας φανταστούμε δύο ανθρώπους.
Ο πρώτος μάς λέει: «Νομίζω ότι αυτή η πληροφορία είναι σωστή, αλλά δεν είμαι βέβαιος».
Ο δεύτερος απαντά αμέσως, χρησιμοποιώντας συγκεκριμένες ημερομηνίες, ονόματα και μια εντυπωσιακά οργανωμένη εξήγηση.
Ποιον είναι πιθανότερο να πιστέψουμε;
Συχνά τον δεύτερο.
Η AI εκμεταλλεύεται, χωρίς πρόθεση, αυτή την ανθρώπινη τάση. Η καλή διατύπωση δημιουργεί την εντύπωση της καλής τεκμηρίωσης.
Επιπλέον, όταν μια απάντηση επιβεβαιώνει κάτι που ήδη πιστεύουμε, είναι ακόμη ευκολότερο να την αποδεχθούμε.
Αν ζητήσουμε από ένα εργαλείο να μας εξηγήσει γιατί μια συγκεκριμένη εταιρεία είναι η καλύτερη στην αγορά, ενδέχεται να πάρουμε μια απάντηση οργανωμένη γύρω από αυτή την υπόθεση.
Δεν σημαίνει ότι η εταιρεία είναι πράγματι η καλύτερη. Σημαίνει ότι η ερώτησή μας μπορεί να κατεύθυνε την απάντηση.
Το πρώτο μάθημα είναι απλό: μια απάντηση που ακούγεται σωστή δεν αποτελεί απόδειξη ότι είναι σωστή.
Επτά σημάδια που πρέπει να μας κάνουν επιφυλακτικούς
1. Υπερβολική βεβαιότητα σε ένα σύνθετο θέμα
Όταν μια απάντηση παρουσιάζει ένα δύσκολο ζήτημα ως απολύτως ξεκάθαρο, αξίζει να σταθούμε λίγο περισσότερο.
Η ιατρική, η οικονομία, η επιστήμη, η νομοθεσία και πολλές τεχνολογικές εξελίξεις περιλαμβάνουν αβεβαιότητες, εξαιρέσεις και διαφορετικές ερμηνείες.
Μια καλή απάντηση πρέπει να μπορεί να αναγνωρίζει αυτές τις αποχρώσεις.
Αντί να αρκεστούμε σε μια κατηγορηματική δήλωση, μπορούμε να ρωτήσουμε:
«Ποιες είναι οι βασικές αβεβαιότητες αυτής της απάντησης;»
2. Εντυπωσιακά συγκεκριμένα στοιχεία χωρίς πηγή
Ένα ακριβές ποσοστό, μια ημερομηνία ή ένας αριθμός δημιουργούν αίσθηση αξιοπιστίας.
Όμως η ακρίβεια στη διατύπωση δεν είναι το ίδιο με την ακρίβεια στα δεδομένα.
Αν η AI ισχυριστεί ότι μια έρευνα έδειξε πως το 73% των εργαζομένων χρησιμοποιεί κάποιο εργαλείο καθημερινά, το πρώτο ερώτημα δεν πρέπει να είναι τι σημαίνει αυτό το ποσοστό.
Πρέπει να είναι: ποια έρευνα;
Ποιος την πραγματοποίησε; Πότε; Σε ποια χώρα; Με ποιο δείγμα;
Το 73% εδώ είναι υποθετικό παράδειγμα, όχι πραγματικό ερευνητικό εύρημα.
3. Πηγές που δεν υπάρχουν ή δεν λένε αυτό που ισχυρίζεται η απάντηση
Αυτό είναι ένα από τα πιο ύπουλα προβλήματα.
Η AI μπορεί να παρουσιάσει έναν τίτλο επιστημονικής δημοσίευσης, έναν συγγραφέα ή έναν σύνδεσμο που μοιάζει αυθεντικός, αλλά δεν οδηγεί στο υποτιθέμενο τεκμήριο.
Μπορεί επίσης να παραπέμψει σε πραγματική πηγή η οποία δεν υποστηρίζει το συγκεκριμένο συμπέρασμα.
Γι’ αυτό δεν αρκεί να βλέπουμε παραπομπές.
Πρέπει να ανοίγουμε την πηγή και να ελέγχουμε τι πραγματικά αναφέρει.
Αυτό ισχύει ιδιαίτερα για δημοσιογράφους, φοιτητές, επαγγελματίες και όσους δημιουργούν περιεχόμενο που πρόκειται να δημοσιευθεί.
4. Πληροφορίες που μπορεί να έχουν αλλάξει
Ρωτάμε την AI για την τιμή ενός προϊόντος, τις δυνατότητες μιας νέας έκδοσης λογισμικού ή τους όρους μιας συνδρομής.
Παίρνουμε μια σαφή απάντηση.
Αλλά πότε ενημερώθηκαν αυτά τα στοιχεία;
Ένα εργαλείο που δεν έχει πραγματοποιήσει πρόσφατη αναζήτηση ενδέχεται να βασίζεται σε παλαιότερες πληροφορίες.
Ακόμη και με ενεργή αναζήτηση, μια τιμή μπορεί να διαφέρει ανά χώρα, νόμισμα, κατάστημα ή τρόπο πληρωμής.
Για αυτό, όταν η πληροφορία εξαρτάται από τον χρόνο, ζητάμε πρόσφατη τεκμηρίωση και ελέγχουμε την επίσημη ιστοσελίδα.
5. Απαντήσεις που συμφωνούν υπερβολικά εύκολα μαζί μας
«Έχω δίκιο ότι αυτή η συσκευή είναι καλύτερη από όλες τις άλλες;»
Μια τέτοια ερώτηση περιέχει ήδη μια επιθυμητή απάντηση.
Αν η AI απλώς επιβεβαιώσει τη γνώμη μας, δεν έχουμε μάθει πολλά.
Μπορούμε να δοκιμάσουμε κάτι πιο χρήσιμο:
«Ποια είναι τα ισχυρότερα επιχειρήματα εναντίον της άποψής μου;»
Αυτή η αλλαγή δεν εγγυάται αντικειμενικότητα, αλλά μας βοηθά να αποφύγουμε μια συζήτηση στην οποία το εργαλείο λειτουργεί μόνο ως καθρέφτης των πεποιθήσεών μας.
6. Οδηγίες που παραλείπουν σημαντικές προϋποθέσεις
Ένας τεχνολογικός οδηγός μπορεί να είναι σωστός για μια έκδοση λειτουργικού συστήματος και λανθασμένος για κάποια άλλη.
Μια συμβουλή για τη διαγραφή φωτογραφιών μπορεί να αγνοεί τον συγχρονισμό με το cloud.
Μια διαδικασία δημιουργίας αντιγράφων ασφαλείας μπορεί να παραλείπει κρίσιμα βήματα.
Αν η AI μάς δίνει οδηγίες χωρίς να έχει ρωτήσει ποια συσκευή, ποια έκδοση λογισμικού ή ποιες ρυθμίσεις χρησιμοποιούμε, υπάρχει λόγος να είμαστε προσεκτικοί.
Όσο πιο δύσκολο είναι να αντιστρέψουμε μια ενέργεια, τόσο πιο σημαντικό είναι να την επιβεβαιώσουμε.
7. Η απάντηση αλλάζει όταν κάνουμε την ίδια ερώτηση διαφορετικά
Αν ζητήσουμε την ίδια πληροφορία με διαφορετική διατύπωση και πάρουμε αντιφατικές απαντήσεις, έχουμε μια ένδειξη ότι κάτι χρειάζεται έλεγχο.
Δεν αποδεικνύει αυτόματα ποια απάντηση είναι λανθασμένη.
Μας δείχνει, όμως, ότι δεν πρέπει να βασιστούμε στην πρώτη χωρίς διασταύρωση.
Η επανάληψη μιας ερώτησης μπορεί να αποκαλύψει ασυνέπεια. Δεν υποκαθιστά την αναζήτηση ανεξάρτητων στοιχείων.
Πώς ελέγχουμε μια απάντηση σε λιγότερο από δύο λεπτά;
Δεν χρειάζεται κάθε συζήτηση με την AI να μετατρέπεται σε επιστημονική έρευνα.
Αν ζητήσουμε μια συνταγή ή ιδέες για ένα όνομα, ο έλεγχος είναι διαφορετικός από εκείνον που απαιτείται για μια ιατρική πληροφορία ή μια οικονομική απόφαση.
Για μια απάντηση που περιέχει πραγματικά γεγονότα, όμως, μπορούμε να ακολουθήσουμε μια σύντομη διαδικασία.
Πρώτα εντοπίζουμε τον βασικό ισχυρισμό. Τι ακριβώς μας λέει η AI ότι ισχύει;
Έπειτα ζητάμε την αρχική πηγή, όχι απλώς μια γενική λίστα ιστοσελίδων.
Ανοίγουμε την πηγή και ελέγχουμε αν υποστηρίζει τον ισχυρισμό.
Αν το θέμα είναι σημαντικό ή αμφισβητούμενο, αναζητούμε και δεύτερη ανεξάρτητη πηγή.
Τέλος, ελέγχουμε την ημερομηνία και το πλαίσιο. Μια πληροφορία μπορεί να ήταν σωστή πριν από δύο χρόνια και να μην ισχύει σήμερα.
Η διαδικασία αυτή δεν εξαλείφει κάθε πιθανότητα λάθους. Μειώνει, όμως, τον κίνδυνο να μετατρέψουμε μια πειστική απάντηση σε αναμφισβήτητο γεγονός.
Πέντε ερωτήσεις που αξίζει να κάνουμε στην ίδια την AI
Μπορούμε να χρησιμοποιήσουμε το εργαλείο και για να εξετάσουμε πιο κριτικά όσα μας λέει.
Μια ιδιαίτερα χρήσιμη ερώτηση είναι:
«Ποια σημεία της απάντησής σου είναι βέβαια και ποια χρειάζονται επιβεβαίωση;»
Μια δεύτερη:
«Δώσε μου την αρχική πηγή για κάθε σημαντικό ισχυρισμό και εξήγησε τι ακριβώς τεκμηριώνει.»
Μια τρίτη:
«Ποιες παραδοχές έκανες χωρίς να σου δώσω αρκετές πληροφορίες;»
Μια τέταρτη:
«Ποιο είναι το ισχυρότερο επιχείρημα ότι η απάντησή σου μπορεί να είναι λανθασμένη;»
Και μια πέμπτη, ίσως η πιο ουσιαστική:
«Αν δεν μπορείς να επαληθεύσεις κάτι, πες μου ξεκάθαρα ότι δεν το γνωρίζεις.»
Υπάρχει όμως μια σημαντική λεπτομέρεια.
Το να ζητήσουμε από την AI να ελέγξει τον εαυτό της δεν ισοδυναμεί με ανεξάρτητη επαλήθευση. Μπορεί να εντοπίσει ένα λάθος, αλλά μπορεί και να το επαναλάβει.
Γι’ αυτό η τελική επιβεβαίωση πρέπει να βασίζεται σε πραγματικές, αξιόπιστες πηγές.
Το πιο επικίνδυνο λάθος είναι εκείνο που δεν ξέρουμε ότι πρέπει να ελέγξουμε
Υπάρχουν απαντήσεις που μπορούμε να αξιολογήσουμε εύκολα.
Αν η AI κάνει λάθος σε κάτι που γνωρίζουμε καλά, το αντιλαμβανόμαστε.
Τι συμβαίνει, όμως, όταν τη ρωτάμε για ένα θέμα στο οποίο δεν έχουμε καμία εμπειρία;
Εκεί βρίσκεται η πραγματική δυσκολία.
Δεν διαθέτουμε τις γνώσεις για να καταλάβουμε ότι κάτι είναι λάθος. Και επειδή το κείμενο μοιάζει ολοκληρωμένο, ενδέχεται να θεωρήσουμε ότι δεν υπάρχει λόγος περαιτέρω έρευνας.
Αυτό είναι ιδιαίτερα σοβαρό όταν πρόκειται για ιατρικές, νομικές ή οικονομικές αποφάσεις.
Η AI μπορεί να μας βοηθήσει να κατανοήσουμε ορολογία, να οργανώσουμε ερωτήσεις και να προετοιμαστούμε για μια συζήτηση με έναν επαγγελματία.
Δεν πρέπει, όμως, να αντιμετωπίζεται ως η μοναδική αυθεντία σε ζητήματα με σοβαρές συνέπειες.
Και αν χρησιμοποιούμε την AI για να γράφουμε άρθρα;
Για τα μέσα ενημέρωσης, το πρόβλημα αποκτά μια πρόσθετη διάσταση.
Ένα λανθασμένο στοιχείο που παραμένει μέσα σε μια ιδιωτική συνομιλία έχει περιορισμένη εμβέλεια.
Το ίδιο στοιχείο, όταν δημοσιευθεί σε ένα άρθρο, μπορεί να διαβαστεί, να αναπαραχθεί και να παρουσιαστεί ως τεκμηριωμένη πληροφορία.
Αν μάλιστα το αναπαράγουν άλλα συστήματα ή ιστοσελίδες, η αρχική ανακρίβεια μπορεί να αποκτήσει την ψευδαίσθηση της ευρείας επιβεβαίωσης.
Γι’ αυτό η χρήση της AI στη δημοσιογραφία απαιτεί ξεκάθαρα όρια.
Μπορεί να βοηθήσει στην οργάνωση της έρευνας, στην ανάλυση υλικού, στη διαμόρφωση ερωτήσεων και στη γλωσσική επιμέλεια.
Αλλά δεν μπορεί να αντικαταστήσει την ευθύνη του συντάκτη για τα πραγματικά γεγονότα.
Μια δήλωση πρέπει να αποδίδεται σωστά. Μια μελέτη πρέπει να υπάρχει. Μια τιμή πρέπει να έχει ελεγχθεί. Μια ημερομηνία πρέπει να αντιστοιχεί στο γεγονός που περιγράφει.
Η Google, στις οδηγίες της για το περιεχόμενο που παράγεται με γενετική AI, επισημαίνει επίσης την ανάγκη ανθρώπινου ελέγχου της ακρίβειας πριν από τη δημοσίευση.
Η ευθύνη δεν εξαφανίζεται επειδή το πρώτο προσχέδιο γράφτηκε από ένα σύστημα.
Μπορούμε τελικά να εμπιστευόμαστε την AI;
Ναι, αλλά χρειάζεται να ορίσουμε τι σημαίνει εμπιστοσύνη.
Δεν εμπιστευόμαστε ένα εργαλείο επειδή πιστεύουμε ότι είναι αλάνθαστο.
Το εμπιστευόμαστε επειδή γνωρίζουμε τι μπορεί να κάνει καλά, σε ποια σημεία δυσκολεύεται και πώς να ελέγχουμε το αποτέλεσμά του.
Δεν εγκαταλείπουμε την αριθμομηχανή επειδή μπορεί να πληκτρολογήσουμε λάθος αριθμό. Μαθαίνουμε να ελέγχουμε τα δεδομένα που εισάγουμε.
Με την AI, όμως, η πρόκληση είναι μεγαλύτερη: το λάθος μπορεί να κρύβεται όχι μόνο στην ερώτηση, αλλά και μέσα σε μια απολύτως πειστική απάντηση.
Η λύση δεν είναι να αντιμετωπίζουμε κάθε πρόταση ως ψέμα.
Είναι να σταματήσουμε να θεωρούμε την ευχέρεια του λόγου απόδειξη γνώσης.
Συμπέρασμα: Η πιο σημαντική δεξιότητα στην εποχή της AI ίσως είναι η αμφισβήτηση
Η τεχνητή νοημοσύνη μάς δίνει πρόσβαση σε δυνατότητες που μέχρι πριν από λίγα χρόνια θα έμοιαζαν αδιανόητες.
Μπορεί να μας βοηθήσει να μάθουμε, να δημιουργήσουμε, να οργανώσουμε και να κατανοήσουμε τον κόσμο με νέους τρόπους.
Αλλά όσο καλύτερη γίνεται στο να παράγει πειστικές απαντήσεις, τόσο πιο σημαντικό γίνεται να διατηρήσουμε κάτι πολύ ανθρώπινο: την ικανότητα να ρωτάμε «πώς το ξέρουμε;».
Δεν χρειάζεται να γίνουμε καχύποπτοι απέναντι σε κάθε τεχνολογική εξέλιξη.
Χρειάζεται να γίνουμε πιο απαιτητικοί απέναντι στην πληροφορία.
Η AI μπορεί να μας δώσει μια απάντηση μέσα σε δευτερόλεπτα. Η ευθύνη να αποφασίσουμε αν αξίζει να την πιστέψουμε παραμένει δική μας.
Και ίσως αυτό να είναι ένα από τα σημαντικότερα μαθήματα της νέας ψηφιακής εποχής.
Στο AWH | AI δεν μας ενδιαφέρει μόνο τι μπορεί να απαντήσει η τεχνητή νοημοσύνη. Μας ενδιαφέρει και πότε πρέπει να συνεχίσουμε να ρωτάμε.
Η Apple είναι μόνο η αρχή.
Ειδήσεις, αναλύσεις, οδηγοί, τεχνολογία και podcasts. Μείνετε κοντά στην κοινότητα του AppleWorldHellas και μη χάνετε όσα αξίζουν την προσοχή σας.
Ακολουθήστε μας στο Google Search ↗
Βρείτε μας στα κοινωνικά δίκτυα
🎙️ AppleWorldHellas Podcast
Οι ιστορίες και οι εξελίξεις της Apple, με συζήτηση, άποψη και τη δική μας ματιά.
