Η τεχνητή νοημοσύνη μπορεί να μιμηθεί μια γνώριμη φωνή. Η απάντησή μας χρειάζεται να είναι μια νέα συνήθεια: να επιβεβαιώνουμε το επείγον αίτημα χωρίς να εγκαταλείπουμε την εμπιστοσύνη στους ανθρώπους μας.

Φανταστείτε μια κλήση την ώρα που βρίσκεστε στη δουλειά. Στην άλλη άκρη ακούγεται μια φωνή που σας θυμίζει το παιδί σας. Είναι αναστατωμένη. Λέει ότι συνέβη κάτι, ότι χρειάζεται βοήθεια, ότι δεν υπάρχει χρόνος.

Ύστερα εμφανίζεται ένα αίτημα. Να στείλετε χρήματα. Να ακολουθήσετε οδηγίες. Να μη μιλήσετε σε κανέναν μέχρι να λυθεί το πρόβλημα.

Το παραπάνω είναι ένα υποθετικό σενάριο. Η τεχνολογική δυνατότητα στην οποία στηρίζεται, όμως, είναι πραγματική. Η αμερικανική Ομοσπονδιακή Επιτροπή Εμπορίου, η FTC, έχει προειδοποιήσει ότι απατεώνες μπορούν να χρησιμοποιήσουν τεχνητή νοημοσύνη για να μιμηθούν τη φωνή ενός συγγενή και να ενισχύσουν μια απάτη με πρόσχημα οικογενειακό επείγον περιστατικό.

Εδώ βρίσκεται μια από τις πιο δύσκολες πλευρές της συζήτησης για την AI. Μια τεχνολογία που μπορεί να παράγει πειστικό λόγο αγγίζει κάτι πολύ προσωπικό: τη βεβαιότητα ότι αναγνωρίζουμε τους ανθρώπους μας.

Το ερώτημα ξεπερνά το αν μια φωνή ακούγεται αληθινή. Αφορά το πώς αντιδρούμε όταν κάτι που μας φαίνεται οικείο ζητά από εμάς μια πράξη με συνέπειες.

Η φωνή ήταν για εμάς κάτι περισσότερο από ήχος

Μια γνώριμη φωνή συνδέεται με πρόσωπα, αναμνήσεις και σχέσεις. Αναγνωρίζουμε τον τρόπο που κάποιος προφέρει μια λέξη, τον ρυθμό της ομιλίας του, μια παύση ή μια μικρή συνήθεια.

Στην καθημερινή επικοινωνία, αυτή η αναγνώριση μας επιτρέπει να προχωρούμε γρήγορα. Όταν ακούμε έναν δικό μας άνθρωπο, δεν ξεκινάμε κάθε συζήτηση ζητώντας αποδείξεις ταυτότητας.

Η κλωνοποίηση φωνής εισάγει μια αλλαγή σε αυτή τη συνήθεια. Η ομοιότητα στον ήχο δεν αρκεί πλέον ως μοναδική επιβεβαίωση όταν η επικοινωνία συνοδεύεται από ένα ασυνήθιστο και επείγον αίτημα.

Αυτό δεν σημαίνει ότι κάθε κλήση πρέπει να αντιμετωπίζεται με καχυποψία. Σημαίνει ότι χρειάζεται να ξεχωρίζουμε την οικειότητα που νιώθουμε από την επιβεβαίωση που απαιτεί μια σημαντική απόφαση.

Μπορούμε να αναγνωρίζουμε μια φωνή και, πριν στείλουμε χρήματα ή δώσουμε ευαίσθητες πληροφορίες, να ελέγχουμε την ιστορία μέσα από μια δεύτερη διαδρομή.

Η νέα τεχνολογία ενισχύει μια γνώριμη μορφή απάτης

Οι απάτες με ψεύτικα επείγοντα περιστατικά δεν δημιουργήθηκαν μαζί με τη generative AI. Το πρόσχημα του συγγενή που βρίσκεται σε δύσκολη θέση είναι ήδη γνωστό. Η τεχνολογία προσθέτει έναν τρόπο να γίνει η ιστορία πιο πειστική.

Η FTC περιγράφει τη χρήση σύντομων ηχητικών αποσπασμάτων, ακόμη και από περιεχόμενο που έχει δημοσιευθεί διαδικτυακά, για τη δημιουργία μιας απομίμησης φωνής. Προειδοποιεί επίσης για αιτήματα πληρωμής μέσω τρόπων που δυσκολεύουν την ανάκτηση των χρημάτων, όπως κρυπτονομίσματα και δωροκάρτες.

Χρειάζεται εδώ να αποφύγουμε δύο υπερβολές. Η πρώτη είναι να θεωρήσουμε ότι κάθε απατηλή τηλεφωνική κλήση χρησιμοποιεί AI. Η δεύτερη είναι να πιστέψουμε ότι κάθε ηχητικό απόσπασμα μπορεί πάντοτε να δημιουργήσει μια τέλεια απομίμηση.

Η ποιότητα και η πειστικότητα διαφέρουν. Δεν χρειάζεται, όμως, να αποδείξουμε ότι η τεχνολογία λειτουργεί άψογα σε όλες τις περιπτώσεις για να υιοθετήσουμε μια χρήσιμη συνήθεια προστασίας.

Το περιεχόμενο του αιτήματος παραμένει κρίσιμο. Τι ζητά ο καλών; Γιατί πρέπει να γίνει τώρα; Γιατί επιμένει να μη μιλήσουμε σε άλλον; Γιατί απορρίπτει κάθε προσπάθεια ανεξάρτητης επιβεβαίωσης;

Αυτά είναι ερωτήματα που μπορούμε να εξετάσουμε ακόμη κι αν δεν έχουμε καμία τεχνική γνώση γύρω από τη σύνθεση φωνής.

Η πίεση να ενεργήσεις αξίζει περισσότερη προσοχή από την ποιότητα του ήχου

Η ιδέα ότι θα αναγνωρίσουμε μια ψεύτικη φωνή επειδή ακούγεται «ρομποτική» είναι μια αδύναμη βάση προστασίας. Μπορεί να υπάρχουν ατέλειες, αλλά μια δύσκολη σύνδεση, ο θόρυβος ή η αναστάτωση μπορούν να κάνουν μια πραγματική κλήση να ακούγεται επίσης παράξενη.

Δεν θα πρότεινα, λοιπόν, να αναλάβει κάθε γονιός ή παππούς τον ρόλο του ειδικού στην ανάλυση ήχου.

Θα πρότεινα να παρατηρεί τη διαδικασία στην οποία προσπαθούν να τον οδηγήσουν.

Ένα αίτημα που συνδυάζει χρήματα, μυστικότητα και πίεση για άμεση δράση χρειάζεται παύση και έλεγχο. Η ύπαρξη ενός από αυτά τα στοιχεία δεν αποδεικνύει από μόνη της απάτη. Ο συνδυασμός τους, όμως, είναι αρκετός λόγος για να αναζητήσουμε επιβεβαίωση πριν προχωρήσουμε.

Η σημαντικότερη άμυνα μπορεί να είναι μια απλή πρόταση: «Θα σε καλέσω εγώ».

Η επανάκληση πρέπει να γίνεται από δική μας διαδρομή

Η FTC συστήνει να επικοινωνούμε με τον άνθρωπο που υποτίθεται ότι ζητά βοήθεια χρησιμοποιώντας έναν αριθμό που γνωρίζουμε ότι του ανήκει. Αν δεν τον βρίσκουμε, προτείνει να δοκιμάσουμε άλλον συγγενή ή φίλο που μπορεί να επιβεβαιώσει την κατάσταση.

Η λεπτομέρεια έχει σημασία. Η επιβεβαίωση δεν πρέπει να βασίζεται σε έναν νέο αριθμό ή σύνδεσμο που μας δίνει η ίδια ύποπτη επικοινωνία.

Αν κάποιος λέει ότι είναι συγγενής μας, χρησιμοποιούμε την επαφή που έχουμε ήδη αποθηκευμένη. Αν επικαλείται έναν οργανισμό, αναζητούμε ανεξάρτητα τα επίσημα στοιχεία επικοινωνίας του.

Για παράδειγμα, αν μια κλήση υποστηρίζει ότι αφορά νοσοκομείο, τράπεζα ή δημόσια υπηρεσία, μπορούμε να επικοινωνήσουμε με τον φορέα μέσα από στοιχεία που βρίσκουμε εμείς. Η οδηγία «καλέστε αυτόν τον αριθμό για επιβεβαίωση» δεν προσφέρει ανεξάρτητο έλεγχο όταν προέρχεται από τον ίδιο άνθρωπο που κάνει τον ισχυρισμό.

Η επανάκληση μεταφέρει ένα μέρος του ελέγχου σε εμάς. Μας δίνει χρόνο και μια δεύτερη πηγή πληροφορίας.

Αν υπάρχουν πραγματικές ενδείξεις άμεσου κινδύνου, αναζητούμε παράλληλα βοήθεια από τις υπηρεσίες έκτακτης ανάγκης. Η επιβεβαίωση ενός αιτήματος πληρωμής και η αντιμετώπιση μιας πιθανής ανάγκης ασφάλειας μπορούν να κινηθούν ως χωριστές ενέργειες.

Μια οικογενειακή συνεννόηση πριν υπάρξει πρόβλημα

Θεωρώ χρήσιμο να συζητάμε αυτά τα θέματα όταν είμαστε ήρεμοι. Η ώρα μιας αγωνιώδους κλήσης δεν είναι η καλύτερη στιγμή για να συμφωνήσουμε πώς θα αντιδράσουμε.

Μπορούμε να έχουμε μια απλή οικογενειακή αρχή: όταν μια επικοινωνία ζητά χρήματα, κωδικούς ή μυστικότητα με επείγον τρόπο, επιβεβαιώνουμε πρώτα μέσα από γνωστό κανάλι.

Αυτός ο κανόνας καλό είναι να ισχύει για όλους. Για τους γονείς, για τα ενήλικα παιδιά, για τους παππούδες. Έτσι, η επαλήθευση γίνεται κοινή συνήθεια και κανείς δεν αισθάνεται ότι αντιμετωπίζεται ως ο «εύκολος στόχος» της οικογένειας.

Μια ιδιωτική λέξη ή φράση επιβεβαίωσης μπορεί επίσης να λειτουργήσει ως πρόσθετο στοιχείο. Θα τη θεωρούσα συμπληρωματικό μέτρο, με την ανεξάρτητη επικοινωνία να παραμένει βασική. Η φράση δεν πρέπει να είναι κάτι που φαίνεται στα δημόσια προφίλ μας και χρειάζεται να αλλάξει αν αποκαλυφθεί.

Το σημαντικότερο είναι να έχουμε δώσει εκ των προτέρων ο ένας στον άλλο την άδεια να ελέγξει. Να γνωρίζει ο γονιός ότι μπορεί να κλείσει μια παράξενη κλήση και να καλέσει το παιδί του, χωρίς να θεωρήσει ότι καθυστερεί αδικαιολόγητα.

Η συζήτηση με τα παιδιά δεν χρειάζεται να γίνει μάθημα φόβου

Για έναν γονιό, το θέμα αγγίζει αναπόφευκτα την ασφάλεια του παιδιού του. Χρειάζεται όμως να το εξηγήσουμε χωρίς να μεταφέρουμε στο παιδί την ευθύνη να αντιμετωπίσει μια σύνθετη μορφή απάτης.

Μπορούμε να πούμε ότι στο διαδίκτυο κάποιος μπορεί να προσποιηθεί πως είναι άλλος άνθρωπος. Ότι μια φωνή ή εικόνα στην οθόνη δεν αρκεί πάντα για να ξέρουμε ποιος βρίσκεται πίσω της. Ότι όταν κάτι το μπερδεύει, το πιέζει ή του ζητά να κρατήσει μυστικό ένα ανησυχητικό γεγονός, μπορεί να απευθυνθεί σε έναν ενήλικο που εμπιστεύεται.

Δεν χρειάζεται να του περιγράψουμε κάθε πιθανό σενάριο ούτε να το εξετάζουμε διαρκώς για να δούμε αν «έμαθε το μάθημα».

Ο στόχος είναι να διατηρηθεί η επικοινωνία. Να ξέρει ότι μπορεί να μας δείξει ένα μήνυμα ή να μας μιλήσει για μια παράξενη συνομιλία χωρίς να φοβάται ότι θα το επιπλήξουμε.

Αυτή είναι μια στάση που θεωρώ χρήσιμη γενικότερα στην ψηφιακή γονεϊκότητα: περισσότερος χώρος για ερωτήσεις, λιγότερη βεβαιότητα ότι η απαγόρευση από μόνη της λύνει το πρόβλημα.

Μια πειστική εικόνα δεν αποτελεί από μόνη της επιβεβαίωση

Η ίδια συζήτηση επεκτείνεται πέρα από τη φωνή. Η Europol, στην έκθεση «Facing reality?» του 2022, εξετάζει τη δυνατότητα κακόβουλης χρήσης των deepfakes, μεταξύ άλλων σε εταιρικές απάτες και στην παραποίηση αποδεικτικού υλικού. Η έκθεση τεκμηριώνει το είδος του κινδύνου· δεν αποτελεί μέτρηση της σημερινής συχνότητάς του στην Ελλάδα.

Για μια επιχείρηση, η πρακτική συνέπεια είναι σαφής. Μια ασυνήθιστη εντολή μεταφοράς χρημάτων χρειάζεται να ακολουθεί την προβλεπόμενη διαδικασία επιβεβαίωσης, ακόμη κι αν η φωνή ή η εικόνα μοιάζει με γνωστό προϊστάμενο ή συνεργάτη.

Το ίδιο ισχύει για μια μικρή επιχείρηση που δεν διαθέτει ξεχωριστό τμήμα ασφάλειας. Μια τηλεφωνική επιβεβαίωση από γνωστό αριθμό, ένας δεύτερος έλεγχος και σαφείς κανόνες για αλλαγές τραπεζικών στοιχείων είναι πρακτικές που αξίζει να συμφωνούνται από πριν.

Η τεχνολογία αυξάνει τις δυνατότητες παραποίησης. Οι διαδικασίες μπορούν να μειώσουν την εξάρτησή μας από το πόσο πειστική φαίνεται μία επικοινωνία.

Δεν πρέπει να μεταφέρουμε όλη την ευθύνη στον χρήστη

Οι συμβουλές προς τις οικογένειες είναι χρήσιμες, αλλά δεν αρκούν ως συνολική απάντηση.

Δεν μπορούμε να περιμένουμε από κάθε πολίτη να αναγνωρίζει αμέσως μια απομίμηση, να γνωρίζει τις τεχνικές εξελίξεις και να διατηρεί απόλυτη ψυχραιμία σε μια στιγμή ανησυχίας.

Οι εταιρείες που αναπτύσσουν εργαλεία, οι πλατφόρμες επικοινωνίας και οι φορείς πληρωμών έχουν επίσης ρόλο στην πρόληψη, στην αναφορά περιστατικών και στην επιβεβαίωση της προέλευσης μιας επικοινωνίας.

Η ίδια η FTC, μέσω του Voice Cloning Challenge, έχει αναζητήσει τεχνικές παρεμβάσεις για τον περιορισμό της κακόβουλης κλωνοποίησης, συμπεριλαμβανομένων λύσεων που εξετάζουν την αυθεντικότητα περιεχομένου πριν αυτό φτάσει στον καταναλωτή.

Η editorial θέση μου είναι ότι η ενημέρωση πρέπει να συνοδεύεται από σχεδιασμό που προστατεύει. Οι άνθρωποι χρειάζονται πρακτικούς τρόπους να ελέγχουν, ενώ οι υπηρεσίες χρειάζεται να κάνουν αυτόν τον έλεγχο ευκολότερο.

Αν κάποιος παραπλανήθηκε, χρειάζεται βοήθεια

Υπάρχει ακόμη ένα σημείο που θεωρώ σημαντικό: ο τρόπος με τον οποίο αντιμετωπίζουμε έναν άνθρωπο που έπεσε θύμα.

Η φράση «πώς το πίστεψες;» μπορεί να ικανοποιεί τη δική μας ανάγκη να νιώσουμε ασφαλείς. Δεν βοηθά να κατανοήσουμε τι συνέβη ούτε να περιορίσουμε τις συνέπειες.

Αν έχει γίνει πληρωμή ή έχουν δοθεί στοιχεία, προτεραιότητα είναι η άμεση επικοινωνία με την τράπεζα ή τον πάροχο πληρωμών μέσα από επίσημο κανάλι και η ενημέρωση των αρμόδιων αρχών. Χρήσιμο είναι να διατηρηθούν τα μηνύματα, τα στοιχεία της συναλλαγής και οι πληροφορίες της επικοινωνίας. Η ανάκτηση χρημάτων δεν είναι εγγυημένη, αλλά η έγκαιρη κινητοποίηση έχει πρακτική αξία.

Ως οικογένεια, χρειάζεται να κάνουμε εύκολη τη φράση «νομίζω ότι έγινε κάτι λάθος». Η ντροπή και ο φόβος της επίπληξης δεν πρέπει να γίνουν ένα δεύτερο εμπόδιο μετά την απάτη.

Η εμπιστοσύνη χρειάζεται μια επιπλέον κίνηση

Δεν θα ήθελα η συζήτηση για την AI να μας οδηγήσει σε έναν κόσμο όπου κάθε φωνή αντιμετωπίζεται ως ψεύτικη και κάθε αίτημα βοήθειας ως παγίδα.

Η εμπιστοσύνη παραμένει απαραίτητη. Χρειάζεται όμως να συνοδεύεται από επιβεβαίωση όταν μια επικοινωνία ζητά κάτι ασυνήθιστο, επείγον και δύσκολα αναστρέψιμο.

Μπορούμε να ακούμε με ενδιαφέρον και να ελέγχουμε. Να βοηθάμε και να παίρνουμε μια δεύτερη πληροφορία. Να αγαπάμε τους ανθρώπους μας και να έχουμε συμφωνήσει ότι μια επανάκληση είναι μέρος της φροντίδας μας.

Αυτή είναι, για εμένα, η πιο ουσιαστική απάντηση στην κλωνοποίηση φωνής. Μια συνήθεια που δεν απαιτεί να γίνουμε ειδικοί στην AI: πριν ενεργήσουμε πάνω σε ένα ασυνήθιστο αίτημα, επικοινωνούμε με τον άνθρωπο από μια διαδρομή που γνωρίζουμε.

Η φωνή μπορεί να μας θυμίζει κάποιον που αγαπάμε. Η επιβεβαίωση μας βοηθά να βεβαιωθούμε ότι η βοήθειά μας θα φτάσει πράγματι σε εκείνον.