Τεχνολογία χωρίς όρια, πολίτες χωρίς ιδιωτικότητα

Η συζήτηση για το μέλλον της τεχνολογίας, της τεχνητής νοημοσύνης και της κρατικής διακυβέρνησης αποκτά πλέον χαρακτηριστικά βαθιάς δημοκρατικής ανησυχίας. Κατά τη διάρκεια της Παγκόσμιας Συνόδου Κορυφής Κυβερνήσεων, ο ιδρυτής της Oracle, Λάρι Έλισον, και ο πρώην πρωθυπουργός της Βρετανίας, Τόνι Μπλερ, παρουσίασαν ένα όραμα για την επόμενη εποχή, το οποίο προκάλεσε έντονο προβληματισμό σε ειδικούς για την προστασία της ιδιωτικότητας και των ατομικών ελευθεριών.

Η πιο χαρακτηριστική αποτύπωση αυτής της νέας αντίληψης ήρθε από τον Λάρι Έλισον, ο οποίος περιέγραψε ένα μέλλον όπου οι πολίτες θα δείχνουν την «καλύτερη πλευρά» τους, επειδή τα πάντα θα καταγράφονται και θα αναφέρονται διαρκώς. Πίσω από αυτή τη φράση βρίσκεται ένα κρίσιμο πολιτικό ερώτημα: ποιος θα ελέγχει τα δεδομένα, ποιος θα τα επεξεργάζεται και με ποια νομιμοποίηση θα παρακολουθείται η καθημερινή ζωή ολόκληρων κοινωνιών.

Στην εποχή της τεχνητής νοημοσύνης, τα δεδομένα δεν αποτελούν απλώς τεχνική πρώτη ύλη. Αποτελούν ισχύ. Όποιος ελέγχει τα δεδομένα, αποκτά τη δυνατότητα να επηρεάζει αποφάσεις, αγορές, συμπεριφορές, πολιτικές επιλογές και κρατικές λειτουργίες. Το ζήτημα γίνεται ακόμη πιο επικίνδυνο όταν κυβερνήσεις και τεχνολογικοί κολοσσοί συμπράττουν για τη συγκέντρωση τεράστιων όγκων πληροφοριών που αφορούν τους πολίτες.

Τα δεδομένα ως καύσιμο της τεχνητής νοημοσύνης

Κάθε μοντέλο τεχνητής νοημοσύνης είναι τόσο ισχυρό όσο τα δεδομένα με τα οποία εκπαιδεύεται. Γι’ αυτό οι μεγάλες εταιρείες τεχνολογίας δείχνουν εδώ και χρόνια ιδιαίτερο ενδιαφέρον για εθνικές βάσεις δεδομένων, ιδίως στον τομέα της υγείας. Ιατρικά ιστορικά, γενετικά δεδομένα, φαρμακευτικές πληροφορίες και διαγνωστικά αρχεία αποτελούν υλικό τεράστιας αξίας για την ανάπτυξη νέων φαρμάκων, συστημάτων πρόβλεψης ασθενειών και εφαρμογών τεχνητής νοημοσύνης.

Η επίσημη επιχειρηματολογία προβάλλει συνήθως τα οφέλη: ταχύτερη διάγνωση, καλύτερη πρόληψη, πιο αποτελεσματική οργάνωση των υπηρεσιών υγείας και εξατομικευμένες θεραπείες. Ωστόσο, πίσω από αυτή την τεχνολογική υπόσχεση αναδύεται ένα βαρύ ερώτημα. Μπορεί η υγεία του πολίτη να μετατραπεί σε εμπορικό απόθεμα δεδομένων, διαχειριζόμενο από ιδιωτικές εταιρείες που λειτουργούν με κριτήριο το κέρδος;

Η γενετική πληροφορία, το ιατρικό ιστορικό και η συμπεριφορική ανάλυση ενός ανθρώπου δεν είναι απλές εγγραφές σε μια βάση δεδομένων. Είναι ο πιο βαθύς πυρήνας της προσωπικής του αυτονομίας. Όταν αυτά τα στοιχεία περνούν σε συστήματα που συνδέουν κράτη, εταιρείες και τεχνητή νοημοσύνη, η έννοια της συγκατάθεσης κινδυνεύει να μετατραπεί σε τυπική διαδικασία χωρίς πραγματικό περιεχόμενο.

Ακόμη πιο σοβαρό είναι το ζήτημα της διαρκούς επιτήρησης. Η ζωντανή παρακολούθηση της συμπεριφοράς, των κινήσεων, των επικοινωνιών και των βιομετρικών δεδομένων ενός πληθυσμού απαιτεί τεράστια υπολογιστική ισχύ. Τα μεγάλα κέντρα δεδομένων δεν είναι απλώς τεχνικές εγκαταστάσεις. Είναι οι υποδομές πάνω στις οποίες μπορεί να στηθεί ένα σύστημα μαζικής συλλογής, ταξινόμησης και αξιολόγησης της ανθρώπινης ζωής.

Χωρίς τέτοιες υποδομές, ο πλήρης ψηφιακός έλεγχος παραμένει τεχνικά περιορισμένος. Με αυτές, η επιτήρηση μπορεί να γίνει συνεχής, αυτοματοποιημένη και δυσδιάκριτη. Ο πολίτης δεν χρειάζεται πλέον να βρίσκεται μπροστά σε έναν κρατικό υπάλληλο ή έναν αστυνομικό μηχανισμό για να παρακολουθείται. Αρκεί να κινείται, να αγοράζει, να επικοινωνεί, να νοσηλεύεται, να εργάζεται ή να χρησιμοποιεί ψηφιακές υπηρεσίες.

Το θολό όριο ανάμεσα σε κράτος και τεχνολογική εξουσία

Το πιο ανησυχητικό στοιχείο αυτής της μετάβασης είναι η σταδιακή σύγχυση ανάμεσα στην κρατική εξουσία και στους ιδιωτικούς τεχνολογικούς κολοσσούς. Οι κυβερνήσεις επικαλούνται την ασφάλεια, τη δημόσια υγεία και την αποτελεσματικότητα. Οι εταιρείες επικαλούνται την καινοτομία, την ταχύτητα και την τεχνολογική πρόοδο. Στο ενδιάμεσο, ο πολίτης καλείται να παραδώσει όλο και περισσότερα στοιχεία της ζωής του σε συστήματα που δεν ελέγχει.

Όταν οι κρίσιμες υποδομές μιας χώρας λειτουργούν πάνω σε πλατφόρμες και τεχνολογικά οικοσυστήματα λίγων ιδιωτικών εταιρειών, η δημοκρατική λογοδοσία αποδυναμώνεται. Η κυβέρνηση μπορεί να υποστηρίζει ότι εφαρμόζει δημόσια πολιτική, ενώ η πραγματική τεχνική δύναμη βρίσκεται στα χέρια επιχειρηματικών συμφερόντων που διαχειρίζονται τα συστήματα, τα δεδομένα και τους αλγορίθμους.

Σε αυτό το πλαίσιο, η συγκατάθεση παύει να είναι ουσιαστική. Ο πολίτης δεν επιλέγει πραγματικά αν θα συμμετάσχει. Το σύστημα διαμορφώνει τους όρους της καθημερινότητας και η συμμετοχή του γίνεται αναγκαστική, επειδή χωρίς ψηφιακή ταυτοποίηση, χωρίς πρόσβαση σε πλατφόρμες και χωρίς αποδοχή των όρων χρήσης κινδυνεύει να αποκλειστεί από βασικές υπηρεσίες.

Η ανησυχία απέναντι σε αυτή την εξέλιξη δεν είναι τεχνοφοβία. Είναι δημοκρατικό αντανακλαστικό. Η τεχνολογία μπορεί να υπηρετήσει την υγεία, την ασφάλεια και την καλύτερη διοίκηση. Μπορεί όμως να λειτουργήσει και ως μηχανισμός επιτήρησης, πειθάρχησης και κοινωνικής ταξινόμησης, όταν αναπτύσσεται χωρίς θεσμικά όρια, χωρίς διαφάνεια και χωρίς πραγματικό δημόσιο έλεγχο.

Το κρίσιμο ερώτημα δεν είναι πλέον αν η τεχνολογία μπορεί να συγκεντρώσει, να αναλύσει και να διασταυρώσει τα πάντα. Μπορεί. Το πραγματικό ερώτημα είναι αν οι κοινωνίες είναι διατεθειμένες να παραδώσουν την αυτονομία και την ιδιωτικότητά τους στο όνομα μιας προόδου που ορίζεται από κυβερνήσεις και δισεκατομμυριούχους της τεχνολογίας.

Το ψηφιακό πανοπτικό δεν χτίζεται με τη μορφή μιας ωμής δικτατορίας. Χτίζεται μέσα από ευγενείς διακηρύξεις, τεχνικές λύσεις, εφαρμογές ευκολίας, υποσχέσεις υγείας, ασφάλειας και αποτελεσματικότητας. Το πρόβλημα είναι ότι όταν ολοκληρωθεί, οι πολίτες μπορεί να διαπιστώσουν πως δεν τους ζητείται πλέον η συγκατάθεση. Θα θεωρείται δεδομένη.

Γι’ αυτό η συζήτηση για την τεχνητή νοημοσύνη, τα κέντρα δεδομένων και τις εθνικές βάσεις πληροφοριών δεν μπορεί να μείνει στα χέρια τεχνοκρατών, εταιρειών και κυβερνητικών συμβούλων. Αφορά τον πυρήνα της δημοκρατίας. Αφορά το δικαίωμα του ανθρώπου να μη μετατρέπεται σε μόνιμα παρακολουθούμενο σύνολο δεδομένων.

Η κοινωνία καλείται να αποφασίσει εγκαίρως αν θέλει τεχνολογία με όρια ή εξουσία χωρίς όρια. Η πρόοδος που απαιτεί την κατάργηση της ιδιωτικότητας δεν είναι ουδέτερη. Είναι πολιτική επιλογή. Και όταν η επιλογή αυτή θεσμοθετηθεί αθόρυβα, θα είναι πολύ δύσκολο να ανατραπεί.