Η ψηφιακή εξυπηρέτηση μάς υπόσχεται ταχύτητα. Όταν όμως μια απόφαση επηρεάζει ουσιαστικά τη ζωή μας, χρειαζόμαστε και κάτι ακόμη: έναν κατανοητό τρόπο να ρωτήσουμε «γιατί;» και έναν άνθρωπο που μπορεί να επανεξετάσει την απάντηση.

Η αίτηση ολοκληρώθηκε. Τα στοιχεία υποβλήθηκαν. Η οθόνη φόρτωσε για λίγα δευτερόλεπτα και εμφανίστηκε το αποτέλεσμα.

«Το αίτημά σας δεν εγκρίθηκε».

Από κάτω, ίσως υπάρχει ένα κουμπί επιστροφής. Μια γενική παραπομπή στους όρους. Ένας σύνδεσμος προς τις συχνές ερωτήσεις.

Εσύ, όμως, έχεις μια ερώτηση που δεν βρίσκεται στη λίστα.

Μήπως χρησιμοποιήθηκε ένα παλιό στοιχείο; Μήπως κάποιο πεδίο δεν αποτυπώνει σωστά την κατάστασή σου; Μήπως υπάρχει κάτι που χρειάζεται διευκρίνιση;

Θέλεις να εξηγήσεις. Η διαδικασία φαίνεται να έχει τελειώσει.

Αυτή η υποθετική σκηνή περιγράφει ένα από τα σημαντικότερα διλήμματα της αυτοματοποιημένης εξυπηρέτησης. Η απόφαση μπορεί να φτάνει γρήγορα στον άνθρωπο. Ο άνθρωπος μπορεί να δυσκολεύεται πολύ περισσότερο να φτάσει σε εκείνον που έχει την ευθύνη της.

Και εκεί αρχίζει μια συζήτηση που ξεπερνά την τεχνητή νοημοσύνη ως εντυπωσιακή δυνατότητα.

Αφορά το πώς θέλουμε να αντιμετωπιζόμαστε όταν βρισκόμαστε στην άλλη πλευρά ενός συστήματος.

Η αυτοματοποίηση έχει πραγματική χρησιμότητα. Μια διαδικασία που ολοκληρώνεται χωρίς επαναλαμβανόμενη καταχώριση, αναμονή και άσκοπες μετακινήσεις μπορεί να μας διευκολύνει ουσιαστικά. Στην Ελλάδα, η αξία της λιγότερης γραφειοκρατίας δεν χρειάζεται ιδιαίτερη εξήγηση.

Δεν υπάρχει λόγος να εξιδανικεύσουμε την παλιά εξυπηρέτηση. Ένας άνθρωπος μπορεί επίσης να κάνει λάθος, να ακολουθήσει μηχανικά έναν κανόνα ή να μη δώσει σαφή αιτιολογία.

Το ζήτημα είναι ποια δυνατότητα διόρθωσης έχουμε όταν η διαδικασία αποτυγχάνει.

Ποιος μπορεί να ελέγξει τα δεδομένα; Ποιος μπορεί να ακούσει την ένστασή μας; Ποιος διαθέτει την αρμοδιότητα να αλλάξει το αποτέλεσμα, εφόσον διαπιστωθεί πρόβλημα;

Η ποιότητα μιας υπηρεσίας φαίνεται και από τις απαντήσεις σε αυτές τις ερωτήσεις.

Στις παρουσιάσεις νέων ψηφιακών συστημάτων, η προσοχή πηγαίνει εύκολα στην ταχύτητα. Λιγότερα βήματα, άμεση αξιολόγηση, ολοκλήρωση μέσα από το κινητό.

Αξίζει όμως να εξετάζουμε και τη διαδρομή μετά την απόρριψη.

Μπορεί να είναι εξαιρετικά εύκολο να υποβάλεις ένα αίτημα και δυσανάλογα δύσκολο να το αμφισβητήσεις. Να έχεις μια σύγχρονη εφαρμογή για την αρχική συναλλαγή και μια ασαφή αλληλουχία από email, τηλεφωνήματα και φόρμες όταν χρειάζεσαι επανεξέταση.

Σε αυτή την περίπτωση, η ευκολία δεν κατανέμεται ομοιόμορφα. Λειτουργεί μέχρι το σημείο όπου η περίπτωσή σου χρειάζεται περισσότερη προσοχή.

Εδώ χρειάζεται μια σημαντική διευκρίνιση: μια αρνητική απάντηση σε μια εφαρμογή δεν αποδεικνύει από μόνη της ότι αποφάσισε αποκλειστικά ένας αλγόριθμος.

Μπορεί να έχει προηγηθεί ανθρώπινη αξιολόγηση. Μπορεί να εφαρμόζεται ένας συγκεκριμένος κανόνας. Μπορεί το αυτοματοποιημένο σύστημα να προσφέρει μόνο ένα μέρος των πληροφοριών.

Επίσης, η αυτοματοποιημένη λήψη αποφάσεων δεν προϋποθέτει απαραίτητα τη χρήση σύγχρονου παραγωγικού AI. Ένα σύστημα μπορεί να λαμβάνει αποφάσεις βάσει προκαθορισμένων κανόνων.

Χρειάζεται, επομένως, να γνωρίζουμε πώς προέκυψε η απόφαση πριν καταλήξουμε σε συμπεράσματα για αυτήν.

Ο GDPR αντιμετωπίζει ειδικά ορισμένες αποφάσεις που βασίζονται αποκλειστικά σε αυτοματοποιημένη επεξεργασία προσωπικών δεδομένων και παράγουν νομικά αποτελέσματα ή επηρεάζουν τον άνθρωπο με αντίστοιχα σημαντικό τρόπο. Δεν πρόκειται για έναν γενικό κανόνα που καλύπτει με τον ίδιο τρόπο κάθε πρόταση περιεχομένου, φίλτρο ή αυτοματοποιημένη απάντηση. Το πεδίο εφαρμογής έχει συγκεκριμένες προϋποθέσεις.

Το άρθρο 22 προβλέπει επίσης εξαιρέσεις, μεταξύ άλλων για αποφάσεις που είναι αναγκαίες για τη σύναψη ή εκτέλεση σύμβασης, επιτρέπονται από κατάλληλη νομοθεσία ή βασίζονται σε ρητή συγκατάθεση. Στις περιπτώσεις της σύμβασης και της ρητής συγκατάθεσης, προβλέπονται εγγυήσεις που περιλαμβάνουν τουλάχιστον την ανθρώπινη παρέμβαση, τη δυνατότητα έκφρασης άποψης και αμφισβήτησης της απόφασης.

Αυτή η νομική βάση έχει σημασία. Η καθημερινή της αξία, όμως, εξαρτάται από το αν ο άνθρωπος μπορεί πράγματι να τη χρησιμοποιήσει.

Ένα δικαίωμα κρυμμένο πίσω από δυσνόητες οδηγίες χρειάζεται μεγάλη επιμονή για να γίνει πράξη.

Και η επιμονή δεν είναι απεριόριστος πόρος. Απαιτεί χρόνο, εξοικείωση, καθαρή σκέψη και τη δυνατότητα να επανέρχεσαι μέχρι να βρεις απάντηση.

Αν η διαδικασία επανεξέτασης είναι δύσχρηστη, κινδυνεύει να εξυπηρετεί καλύτερα εκείνον που γνωρίζει πώς να τη διεκδικήσει. Ο λιγότερο έμπειρος χρήστης μπορεί να σταματήσει στο πρώτο «δεν γίνεται».

Γι’ αυτό θεωρώ ότι η προσβασιμότητα μιας ένστασης αποτελεί ουσιαστικό κριτήριο σχεδιασμού.

Να υπάρχει καθαρή επιλογή στην οθόνη. Να εξηγείται τι μπορείς να ζητήσεις. Να γνωρίζεις πού καταλήγει το αίτημα και ποιος είναι ο σκοπός της επόμενης επικοινωνίας.

Η εξήγηση είναι εξίσου σημαντική.

Το «δεν πληροίτε τα κριτήρια» μπορεί να περιγράφει το αποτέλεσμα χωρίς να βοηθά τον άνθρωπο να καταλάβει τι συνέβη. Αν υπάρχει λάθος σε ένα δεδομένο, χρειάζεται να μπορεί να το εντοπίσει. Αν εφαρμόστηκε ένα κριτήριο, χρειάζεται μια κατανοητή εικόνα του τρόπου με τον οποίο επηρέασε την περίπτωσή του.

Στις 27 Φεβρουαρίου 2025, το Δικαστήριο της Ευρωπαϊκής Ένωσης, στην υπόθεση C‑203/22, Dun & Bradstreet Austria, διευκρίνισε το δικαίωμα σε εξήγηση σχετικά με αυτοματοποιημένη πιστοληπτική αξιολόγηση. Η εξήγηση πρέπει να επιτρέπει στον ενδιαφερόμενο να κατανοήσει και να αμφισβητήσει την απόφαση που τον αφορά.

Αυτό δίνει μια χρήσιμη κατεύθυνση και στη συζήτηση για την εμπειρία χρήσης.

Μια εξήγηση πρέπει να είναι αξιοποιήσιμη. Να απαντά σε κάτι περισσότερο από το «έτσι λειτουργεί το σύστημα».

Ο πολίτης δεν χρειάζεται να γίνει προγραμματιστής για να διατυπώσει μια ουσιαστική αντίρρηση. Χρειάζεται να καταλάβει αρκετά ώστε να μπορεί να πει: αυτό το στοιχείο είναι λανθασμένο, αυτή η πληροφορία έχει αλλάξει, εδώ χρειάζεται επανέλεγχος.

Η ανθρώπινη παρέμβαση, αντίστοιχα, χρειάζεται περιεχόμενο.

Αν ο εργαζόμενος που αναλαμβάνει την επικοινωνία μπορεί μόνο να διαβάσει το ίδιο αποτέλεσμα που εμφανίζεται στην εφαρμογή, η συνομιλία προσφέρει περιορισμένη βοήθεια. Για ουσιαστική επανεξέταση χρειάζεται πρόσβαση στις σχετικές πληροφορίες και δυνατότητα πραγματικού ελέγχου.

Αυτό αποτελεί και ζήτημα οργάνωσης της υπηρεσίας. Δεν είναι δίκαιο να τοποθετείται ένας υπάλληλος απέναντι σε έναν πολίτη με την προσδοκία ότι θα λύσει ένα πρόβλημα, ενώ δεν του έχουν δοθεί τα μέσα ή η αρμοδιότητα.

Το «το σύστημα δεν με αφήνει» περιγράφει τότε μια απόφαση σχεδιασμού και διοίκησης. Κάποιος επέλεξε ποιος μπορεί να παρέμβει, με ποια διαδικασία και μέχρι ποιο σημείο.

Ο αλγόριθμος δεν αναλαμβάνει μόνος του την ευθύνη.

Πίσω από κάθε εφαρμογή υπάρχουν οργανισμοί που επιλέγουν δεδομένα, κριτήρια, εργαλεία και διαδικασίες. Υπάρχουν επίσης αποφάσεις για το πώς θα αντιμετωπιστεί το λάθος.

Αν αποδίδουμε ολόκληρη την ευθύνη σε μια αφηρημένη «μηχανή», δυσκολευόμαστε να εντοπίσουμε ποιος οφείλει να δώσει την απάντηση.

Για το ελληνικό κοινό, αυτό έχει ιδιαίτερη σημασία καθώς περισσότερες συναλλαγές γίνονται μέσα από το κινητό.

Ένας ελεύθερος επαγγελματίας μπορεί να χρειάζεται διευκρίνιση για την εικόνα των στοιχείων του. Ένας εργαζόμενος μπορεί να θέλει να διορθώσει μια παλιά καταχώριση. Ένας άνθρωπος που δεν έχει άνεση με τις ψηφιακές υπηρεσίες μπορεί να μη γνωρίζει καν πώς να ρωτήσει αν η απόφαση ήταν αυτοματοποιημένη.

Τα παραδείγματα αυτά δεν αποτελούν ισχυρισμούς για συγκεκριμένη επιχείρηση ή πλατφόρμα. Δείχνουν γιατί η δυνατότητα εξήγησης και επανεξέτασης χρειάζεται να αποτελεί μέρος της υπηρεσίας από την αρχή.

Δεν σημαίνει ότι κάθε προσωπική εξήγηση πρέπει να οδηγεί σε έγκριση. Μια αρνητική απόφαση μπορεί να είναι ορθή και να παραμείνει αρνητική έπειτα από προσεκτικό έλεγχο.

Η ανθρώπινη αξιοπρέπεια δεν προϋποθέτει ότι θα πάρουμε πάντα την απάντηση που θέλουμε.

Προϋποθέτει ότι υπάρχει ένας ουσιαστικός τρόπος να καταλάβουμε την απόφαση, να επισημάνουμε ένα λάθος και να ακουστεί η αντίρρησή μας όπου αυτό προβλέπεται.

Στο AppleWorldHellas, συζητάμε συχνά για συσκευές που μας δίνουν περισσότερες δυνατότητες. Η πρόσβαση σε μια υπηρεσία από το iPhone μπορεί να είναι γρήγορη, ασφαλής και εύχρηστη. Η αξιολόγηση της συνολικής εμπειρίας, όμως, χρειάζεται να φτάνει μέχρι τη στιγμή που κάτι δεν εξελίσσεται ομαλά.

Πόσο εύκολα βρίσκεις βοήθεια; Καταλαβαίνεις τι σου απαντούν; Μπορείς να διορθώσεις τα στοιχεία σου; Υπάρχει άνθρωπος με δυνατότητα να εξετάσει την υπόθεση;

Αυτές είναι λειτουργίες εξίσου ουσιαστικές με μια καλοσχεδιασμένη αρχική οθόνη.

Γιατί η αυτοματοποίηση κερδίζει την εμπιστοσύνη μας και από τον τρόπο με τον οποίο επιτρέπει τον έλεγχό της.

Το «όχι» μπορεί να είναι μέρος μιας δίκαιης διαδικασίας.

Χρειάζεται όμως να συνοδεύεται από μια πόρτα που ανοίγει όταν έχουμε βάσιμο λόγο να ζητήσουμε επανεξέταση.

Και πίσω από αυτή την πόρτα, να υπάρχει κάποιος που μπορεί πραγματικά να μας ακούσει.