Στα τέλη της δεκαετίας του ’70, η ταινία «Στενές Επαφές Τρίτου Τύπου» προβαλλόταν για πρώτη φορά στους κινηματογράφους, σε μια εποχή όπου η εικόνα δεν είχε ακόμη μετατραπεί σε καθολικό αποδεικτικό μέσο. Ανάμεσα στις σκηνές της, ξεχώριζε ένας διάλογος που συμπύκνωνε τη λογική της εποχής.
Το επιχείρημα ήταν απλό. Η απουσία βίντεο δεν συνεπαγόταν ανυπαρξία γεγονότων. Τα τροχαία δυστυχήματα συνέβαιναν καθημερινά χωρίς να καταγράφονται, κι όμως κανείς δεν αμφισβητούσε την ύπαρξή τους.
Αυτή η πραγματικότητα ανήκει πια στο παρελθόν.
Σήμερα, οι κάμερες βρίσκονται παντού και τα κινητά τηλέφωνα έχουν μετατρέψει τους πολίτες σε μόνιμους καταγραφείς. Κάθε συμβάν αποτυπώνεται σχεδόν αυτόματα, σε πραγματικό χρόνο.
Οι διωκτικές αρχές βασίζονται πλέον συστηματικά σε οπτικό υλικό από ιδιωτικά συστήματα επιτήρησης για τη διαλεύκανση εγκλημάτων, στοιχείο που καταδεικνύει τη μετατόπιση της αστυνόμευσης από το ανθρώπινο στοιχείο στον αλγόριθμο.
Η Βρετανία υπήρξε από τη δεκαετία του ’90 το κατεξοχήν πεδίο εφαρμογής της λογικής «κάμερες παντού». Η πιο παρακολουθούμενη χώρα του πλανήτη άνοιξε τον δρόμο και ακολούθησαν άλλες μεγάλες δυνάμεις.
Σήμερα εξακολουθεί να πρωτοστατεί, αξιοποιώντας τεχνολογίες που δεν περιορίζονται στην καταγραφή. Παρακολουθούν, αναλύουν και επιχειρούν να προβλέψουν τη συμπεριφορά των πολιτών, σε βαθμό που μέχρι πρότινος θεωρούνταν σενάριο επιστημονικής φαντασίας.
Η πορεία αυτή δείχνει γνώριμη. Όπως συνέβη με τις κάμερες, έτσι και τα νέα συστήματα προδιαγράφεται να εξαπλωθούν ταχύτατα.
Κεντρικό ρόλο σε αυτή τη μετάβαση διαδραματίζει η τεχνητή νοημοσύνη, η οποία ενσωματώνεται όλο και βαθύτερα στην καθημερινότητα. Από τις υπηρεσίες έως την ασφάλεια, από τη διαχείριση δεδομένων έως την πρόληψη του εγκλήματος.
Στη Βρετανία έχουν ήδη αρχίσει να εφαρμόζονται συστήματα ΑΙ με στόχο την πρόβλεψη της διάπραξης αδικημάτων.
Η μέθοδος βασίζεται στον συνδυασμό γεωγραφικής επιτήρησης περιοχών υψηλού κινδύνου και ηλεκτρονικής παρακολούθησης χιλιάδων ατόμων που χαρακτηρίζονται επικίνδυνα ή εν δυνάμει παραβατικά, με κριτήριο το ποινικό τους παρελθόν. Η βασική παραδοχή είναι ότι η γνώση της συνεχούς επιτήρησης λειτουργεί αποτρεπτικά.
Εγκληματολόγοι εκφράζουν σοβαρές αμφιβολίες για την αποτελεσματικότητα αυτής της προσέγγισης. Επισημαίνουν ότι δημιουργεί μια επίφαση ελέγχου, παρακάμπτοντας το γεγονός ότι η ουσιαστική πρόληψη συνδέεται με τον πραγματικό περιορισμό των εγκληματικών υποκειμένων.
Σε ένα σύστημα όπου κυριαρχούν πολιτικές αποσυμφόρησης των φυλακών, η τεχνολογική επιτήρηση προσφέρεται ως υποκατάστατο. Οι δράστες παραμένουν ελεύθεροι και η κοινωνία καλείται να πειστεί ότι παρακολουθούνται επαρκώς ώστε να μην επαναλάβουν τη δράση τους.
Η πραγματικότητα δείχνει διαφορετική.
Στα επόμενα βήματα περιλαμβάνεται η γενικευμένη χρήση αναγνώρισης προσώπου σε κάθε αστικό και ημιαστικό σημείο της χώρας. Ταυτοποίηση πολιτών σε πραγματικό χρόνο, χαρτογράφηση μετακινήσεων και εξαγωγή συμπερασμάτων για μελλοντική συμπεριφορά.
Η εφαρμογή ενός τέτοιου συστήματος υπερβαίνει τα μέχρι σήμερα όρια της επιτήρησης. Ολόκληρος ο πληθυσμός τίθεται υπό έλεγχο, ανεξάρτητα από πράξεις ή προθέσεις.
Τα ερωτήματα που προκύπτουν είναι θεμελιώδη. Πώς αντιμετωπίζεται κάποιος που ένα σύστημα χαρακτηρίζει επικίνδυνο χωρίς να έχει παρανομήσει; Ποια είναι η θεσμική βάση για ελέγχους, προσαγωγές ή φακέλωμα χωρίς παραβίαση νόμου;
Η απάντηση που προβάλλεται εστιάζει στην προστασία των πολλών, ακόμη κι αν κάποιοι ταλαιπωρηθούν.
Το ζήτημα ανακύπτει όταν αυτή η λογική παγιώνεται. Όταν ο ορισμός της παραβατικότητας παύει να είναι σαφής και επεκτείνεται σε συμπεριφορές πολιτικές, κοινωνικές ή ιδεολογικές.
Πολιτικοί διαφωνούντες, ακτιβιστές, δημοσιογράφοι που ενοχλούν, πολίτες με απόψεις εκτός γραμμής μπορούν εύκολα να ενταχθούν στο πεδίο της προληπτικής επιτήρησης.
Στη Βρετανία το σύστημα αυτό προωθείται πιλοτικά με την ονομασία «panopticon». Ο όρος παραπέμπει άμεσα στο θεωρητικό μοντέλο του Jeremy Bentham για την ιδανική φυλακή του 18ου αιώνα.
Ένα σύστημα όπου ο κρατούμενος συμμορφώνεται επειδή δεν γνωρίζει αν και πότε παρακολουθείται. Η πειθαρχία επιβάλλεται μέσω της αβεβαιότητας.
Η εφαρμογή της ίδιας λογικής σε επίπεδο κοινωνίας συνεπάγεται ριζικές αλλαγές. Η τιμωρία μετατρέπεται σε πρόληψη και η συμπεριφορά ρυθμίζεται πριν εκδηλωθεί, βάσει κριτηρίων που θέτει η εκάστοτε εξουσία.
Σε πολιτικά συστήματα με αυταρχικές τάσεις, ακόμη και σε δημοκρατίες με φθαρμένους θεσμούς, ένα τέτοιο εργαλείο συνιστά μηχανισμό καθολικού ελέγχου.
Η υπακοή επιβάλλεται ως κανόνας και η ανυπακοή εκλαμβάνεται ως απειλή.
Το δυστοπικό αυτό σενάριο φαντάζει εφικτό ακριβώς επειδή παρουσιάζεται ως μέτρο ασφάλειας. Απευθύνεται στον μέσο νομοταγή πολίτη που επιθυμεί τη μείωση της εγκληματικότητας.
Η εμπειρία δείχνει ότι κάθε τεχνολογική καινοτομία ξεκινά με συγκεκριμένο σκοπό και καταλήγει να χρησιμοποιείται πολύ ευρύτερα.
Και τότε η διαρκής επιτήρηση παύει να αφορά τους λίγους.
Αφορά τους πάντες, συνεχώς, ανεξάρτητα από το αν έχουν πράξει οτιδήποτε μεμπτό.
