Από το ΑΦΜ στο «κοινωνικό σκορ»: Η επικίνδυνη κατηφόρα προς ένα κράτος τύπου Όργουελ

Γράφει ο Καθηγητής και Ακαδημαϊκός Παναγόπουλος Π. Αλέξιος (DDDr., Dr.Habil.)

Η ψηφιοποίηση του κράτους αποτελεί αναγκαίο βήμα εκσυγχρονισμού. Η τεχνολογική πρόοδος, όμως, αποκτά πραγματική θεσμική αξία μόνο όταν λειτουργεί μέσα σε σαφή όρια, με διαφάνεια, λογοδοσία και πλήρη σεβασμό των συνταγματικών δικαιωμάτων.

Η παρουσίαση από την κυβέρνηση του Μητρώου Παρακολούθησης Ιδιωτικού Χρέους και του Συστήματος Πιστοληπτικής Αξιολόγησης ανοίγει μία συζήτηση που υπερβαίνει κατά πολύ την οικονομική διαχείριση. Πρόκειται για εργαλεία τα οποία, κατά το Υπουργείο Εθνικής Οικονομίας και Οικονομικών, αποσκοπούν στην καλύτερη αποτύπωση του ιδιωτικού χρέους και στην αξιολόγηση της πιστοληπτικής ικανότητας φυσικών και νομικών προσώπων.

Ένας τέτοιος μηχανισμός μπορεί να υπηρετεί θεμιτούς οικονομικούς σκοπούς, να συμβάλει στη διαφάνεια και να επιτρέψει καλύτερη εκτίμηση πιστωτικού κινδύνου. Η συγκέντρωση, όμως, μεγάλου όγκου οικονομικών δεδομένων πολιτών δημιουργεί ταυτόχρονα αυξημένες υποχρεώσεις για το κράτος. Η προστασία από υπερβολική ή αδιαφανή επεξεργασία προσωπικών πληροφοριών οφείλει να αποτελεί βασική προϋπόθεση λειτουργίας κάθε αντίστοιχου συστήματος.

Το κρίσιμο ζήτημα της ψηφιακής εποχής αφορά τα όρια της κρατικής εξουσίας. Ένα σύγχρονο ηλεκτρονικό κράτος χρειάζεται μηχανισμούς που υπηρετούν τον πολίτη, με κανόνες οι οποίοι εμποδίζουν τη μετατροπή της τεχνολογίας σε ανεξέλεγκτο εργαλείο κατάταξης και αποκλεισμού.

Το Σύνταγμα πάνω από κάθε πιστοληπτικό αλγόριθμο

Το ελληνικό Σύνταγμα τοποθετεί την ανθρώπινη αξία, την ισότητα, την ιδιωτική ζωή και την προστασία των προσωπικών δεδομένων στον πυρήνα της έννομης τάξης. Η αρχή της αναλογικότητας επιβάλλει ταυτόχρονα στο κράτος να περιορίζει κάθε επέμβαση στα απολύτως αναγκαία όρια.

Το άρθρο 9Α κατοχυρώνει ειδικά το δικαίωμα προστασίας του πολίτη από τη συλλογή, την επεξεργασία και τη χρήση προσωπικών δεδομένων. Το άρθρο 2 αναγνωρίζει τον σεβασμό και την προστασία της αξίας του ανθρώπου ως πρωταρχική υποχρέωση της Πολιτείας, ενώ το άρθρο 25 εντάσσει την άσκηση των κρατικών αρμοδιοτήτων στο πλαίσιο του κράτους δικαίου και της αναλογικότητας.

Η συνταγματική διάκριση είναι θεμελιώδης. Το κράτος δικαιούται να υπολογίζει έναν οικονομικό κίνδυνο. Η οικονομική βαθμολογία ενός πολίτη δεν μπορεί να μετατρέπεται σε αξιολόγηση της προσωπικής του αξίας.

Ένας άνθρωπος μπορεί να έχει ληξιπρόθεσμες υποχρεώσεις επειδή έχασε τη δουλειά του, επειδή η επιχείρησή του έκλεισε, επειδή αντιμετώπισε σοβαρό οικογενειακό πρόβλημα ή επειδή βρέθηκε αντιμέτωπος με μία περίοδο οικονομικής κατάρρευσης. Το χρέος αποτελεί οικονομική κατάσταση. Δεν αποτελεί απόδειξη ηθικής αποτυχίας, κοινωνικής αναξιοπιστίας ή μειωμένης ανθρώπινης αξίας.

Ακριβώς γι’ αυτό η δημιουργία ενός πιστοληπτικού ιστορικού πρέπει να συνοδεύεται από ισχυρές δικλίδες προστασίας. Ένα προσωρινό οικονομικό πρόβλημα δεν μπορεί να εξελίσσεται σε μόνιμο ψηφιακό αποτύπωμα που ακολουθεί τον πολίτη σε ολόκληρη τη ζωή του και καθορίζει την πρόσβασή του σε βασικές οικονομικές ή κοινωνικές δυνατότητες.

Ανάλογες εγγυήσεις προβλέπει και το ευρωπαϊκό δίκαιο. Ο Χάρτης Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης κατοχυρώνει την ιδιωτική ζωή και στο άρθρο 8 αναγνωρίζει ρητά την προστασία των προσωπικών δεδομένων, το δικαίωμα πρόσβασης σε αυτά, τη δυνατότητα διόρθωσης και την εποπτεία από ανεξάρτητη αρχή.

Ιδιαίτερη σημασία αποκτά και το άρθρο 22 του Γενικού Κανονισμού Προστασίας Δεδομένων (GDPR). Ο ευρωπαϊκός κανονισμός παρέχει, υπό τις προϋποθέσεις που ορίζει, προστασία απέναντι σε αποφάσεις οι οποίες βασίζονται αποκλειστικά σε αυτοματοποιημένη επεξεργασία και παράγουν νομικά αποτελέσματα ή επηρεάζουν σημαντικά ένα πρόσωπο.

Η πρακτική συνέπεια αυτής της αρχής είναι καθοριστική. Όταν μία αυτοματοποιημένη αξιολόγηση επηρεάζει ουσιαστικά τη ζωή του πολίτη, πρέπει να υπάρχει γνωστή νομική βάση, δυνατότητα ενημέρωσης, διόρθωσης λανθασμένων δεδομένων, αμφισβήτησης του αποτελέσματος και ουσιαστικής ανθρώπινης παρέμβασης στις περιπτώσεις όπου αυτή απαιτείται από το δίκαιο.

Ο αλγόριθμος δεν αποκτά τεκμήριο αλάθητου επειδή λειτουργεί ψηφιακά. Το αντίθετο. Η αυτοματοποίηση μπορεί να πολλαπλασιάσει ένα λάθος με ταχύτητα και έκταση που κανένας παραδοσιακός διοικητικός φάκελος δεν θα μπορούσε να προκαλέσει.

Η ευρωπαϊκή κόκκινη γραμμή απέναντι στο «social scoring»

Στο σημείο αυτό απαιτείται νομική ακρίβεια. Η ύπαρξη ενός ελληνικού συστήματος πιστοληπτικής αξιολόγησης δεν συνιστά αυτομάτως σύστημα γενικευμένης κοινωνικής βαθμολόγησης και δεν τεκμηριώνει από μόνη της παραβίαση του Συντάγματος ή του ευρωπαϊκού δικαίου.

Υπάρχει, ωστόσο, μία σαφής ευρωπαϊκή θεσμική γραμμή την οποία οποιοδήποτε κράτος οφείλει να σέβεται. Ο Κανονισμός (ΕΕ) 2024/1689 για την Τεχνητή Νοημοσύνη, γνωστός ως AI Act, απαγορεύει συγκεκριμένες μορφές κοινωνικής βαθμολόγησης όταν συστήματα τεχνητής νοημοσύνης αξιολογούν ή ταξινομούν ανθρώπους με βάση κοινωνικές συμπεριφορές ή προσωπικά χαρακτηριστικά και η κατάταξη καταλήγει σε ορισμένες δυσμενείς ή δυσανάλογες συνέπειες.

Η διάκριση είναι ουσιώδης. Η εκτίμηση της πιθανότητας αποπληρωμής μιας συγκεκριμένης οικονομικής υποχρέωσης αποτελεί μορφή πιστωτικής αξιολόγησης. Η μετατροπή οικονομικών και προσωπικών δεδομένων σε γενικευμένη κατάταξη του ανθρώπου ως περισσότερο ή λιγότερο «αξιόπιστου πολίτη» θα οδηγούσε σε ένα εντελώς διαφορετικό και θεσμικά επικίνδυνο πεδίο.

Σε αυτό ακριβώς το σημείο πρέπει να χαράσσεται η συνταγματική κόκκινη γραμμή. Η πιστοληπτική ικανότητα αφορά μια οικονομική σχέση. Δεν μπορεί να εξελίσσεται σε ψηφιακή κοινωνική ταυτότητα.

Η λειτουργία ενός τέτοιου συστήματος απαιτεί επίσης απόλυτη διαφάνεια ως προς τα δεδομένα που συλλέγονται, τις πηγές από τις οποίες αντλούνται, τα πρόσωπα ή τους φορείς που αποκτούν πρόσβαση, τον χρόνο διατήρησής τους και τον συγκεκριμένο σκοπό κάθε επεξεργασίας.

Ο πολίτης πρέπει να μπορεί να γνωρίζει ποια στοιχεία χρησιμοποιήθηκαν για τη βαθμολόγησή του. Πρέπει να υπάρχει σαφής διαδικασία διόρθωσης λανθασμένων πληροφοριών, δυνατότητα προσφυγής και συγκεκριμένη ευθύνη όταν το σύστημα παράγει εσφαλμένο αποτέλεσμα.

Η ψηφιακή διοίκηση δεν επιτρέπεται να δημιουργήσει ζώνες θεσμικής αορατότητας, όπου κανείς δεν γνωρίζει ποιος σχεδίασε το μοντέλο, πώς σταθμίζονται τα δεδομένα και ποιος λογοδοτεί για την τελική αξιολόγηση.

Ένα λάθος σε έναν χάρτινο φάκελο μπορεί να παραμείνει περιορισμένο. Ένα λάθος σε μία κεντρική ψηφιακή βάση δεδομένων μπορεί να αντιγραφεί, να διαμοιραστεί και να επηρεάσει ταυτόχρονα πολλές πτυχές της οικονομικής ζωής ενός ανθρώπου. Η ανθρώπινη εποπτεία, η δυνατότητα ελέγχου και η λογοδοσία αποτελούν επομένως βασικές ασφαλιστικές δικλίδες του κράτους δικαίου.

Η Ελλάδα χρειάζεται ψηφιακό κράτος. Δεν χρειάζεται ψηφιακή κατηγοριοποίηση του ανθρώπου. Η τεχνολογία μπορεί να βελτιώσει τη διοίκηση, να περιορίσει τη γραφειοκρατία και να κάνει τις υπηρεσίες αποτελεσματικότερες. Η χρήση της πρέπει να παραμένει προσανατολισμένη στην εξυπηρέτηση του πολίτη και να ελέγχεται αυστηρά από το Σύνταγμα και το ευρωπαϊκό δίκαιο.

Η οικονομική αξιολόγηση μπορεί να είναι χρήσιμο εργαλείο για μία τράπεζα ή για τη διαχείριση πιστωτικού κινδύνου. Δεν επιτρέπεται να μετατραπεί σε ισόβια κοινωνική ετικέτα. Ένας πολίτης που βρέθηκε κάποτε σε αδυναμία πληρωμής πρέπει να διατηρεί πραγματική δυνατότητα οικονομικής επανένταξης.

Η έννοια του μόνιμου ψηφιακού στίγματος προσκρούει στην ίδια τη λογική της ανθρώπινης αξιοπρέπειας. Η κοινωνία οφείλει να επιτρέπει στον άνθρωπο να αποκαθιστά τη θέση του, να διορθώνει λάθη, να ξεπερνά οικονομικές αποτυχίες και να ξεκινά ξανά.

Ο κίνδυνος της ψηφιακής εποχής δεν βρίσκεται μόνο στην ποσότητα των πληροφοριών που μπορεί να συλλέξει το κράτος. Βρίσκεται στην πιθανότητα όλες αυτές οι πληροφορίες να συνδεθούν μεταξύ τους και να δημιουργήσουν ένα ενιαίο προφίλ, πάνω στο οποίο θα λαμβάνονται αποφάσεις χωρίς επαρκή διαφάνεια και πραγματικό ανθρώπινο έλεγχο.

Σε αυτό το σημείο η αναφορά στον Όργουελ αποκτά θεσμικό και όχι λογοτεχνικό περιεχόμενο. Η «Ωκεανία» του 1984 αποτελεί την ακραία εικόνα ενός συστήματος στο οποίο το άτομο χάνει σταδιακά την αυτονομία του μπροστά σε μία εξουσία που γνωρίζει, καταγράφει, ταξινομεί και ελέγχει τα πάντα.

Η σύγχρονη δημοκρατική Πολιτεία οφείλει να κινηθεί στην ακριβώς αντίθετη κατεύθυνση. Να χρησιμοποιεί την τεχνολογία με όρια. Να επεξεργάζεται μόνο όσα δεδομένα είναι αναγκαία. Να αξιολογεί τον οικονομικό κίνδυνο με αντικειμενικά κριτήρια. Να παρέχει πρόσβαση, εξήγηση, διόρθωση και δικαστικό ή διοικητικό έλεγχο.

Το Μητρώο Παρακολούθησης Ιδιωτικού Χρέους και το Σύστημα Πιστοληπτικής Αξιολόγησης δεν μπορούν να χαρακτηριστούν από μόνα τους αντισυνταγματικά ή παράνομα. Η τελική κρίση εξαρτάται από τον τρόπο λειτουργίας τους, τη νομική βάση, την έκταση των δεδομένων, τους αποδέκτες, τους χρόνους διατήρησης, τη δυνατότητα αμφισβήτησης και τις πραγματικές συνέπειες για τον πολίτη.

Εκεί ακριβώς θα κριθεί και η ποιότητα του ψηφιακού κράτους που οικοδομείται. Η πρόοδος δεν μετριέται μόνο από το πόσες βάσεις δεδομένων δημιουργούνται ή πόσες διαδικασίες αυτοματοποιούνται. Μετριέται και από το πόσο αποτελεσματικά προστατεύεται ο άνθρωπος απέναντι στην ίδια την ισχύ της τεχνολογίας.

Ο πολίτης δεν είναι ΑΦΜ. Δεν είναι πιστωτικό σκορ. Δεν είναι αλγόριθμος.

Είναι φορέας δικαιωμάτων, ελευθεριών και συνταγματικών εγγυήσεων. Και αυτή η ιδιότητα προηγείται κάθε οικονομικής βαθμολογίας, κάθε αυτοματοποιημένου μοντέλου και κάθε ηλεκτρονικής βάσης δεδομένων.

Πάνω από τον αλγόριθμο βρίσκεται το Σύνταγμα. Πάνω από την πιστοληπτική αξιολόγηση βρίσκεται η ανθρώπινη αξιοπρέπεια. Και πάνω από την αποτελεσματικότητα οποιουδήποτε ψηφιακού μηχανισμού βρίσκεται η υποχρέωση της δημοκρατικής Πολιτείας να προστατεύει τον άνθρωπο από την αυθαιρεσία, ακόμη και όταν αυτή μπορεί να κρύβεται πίσω από έναν φαινομενικά ουδέτερο μαθηματικό τύπο.

Πηγές θεσμικού πλαισίου: Υπουργείο Εθνικής Οικονομίας και Οικονομικών, Ελληνικό Σύνταγμα, Γενικός Κανονισμός Προστασίας Δεδομένων (GDPR), Χάρτης Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης και Κανονισμός (ΕΕ) 2024/1689 για την Τεχνητή Νοημοσύνη.