Κίνα: Δεν επαληθεύεις το πρόσωπο σου στην κάμερα; Λυπάμαι, δεν έχει φαγητό
Κίνα: Οι υποστηρικτές της αναγνώρισης προσώπου στις ΗΠΑ συχνά υποστηρίζουν ότι η τεχνολογία επιτήρησης χρησιμοποιείται για την αντιμετώπιση των μεγαλύτερων απειλών – για τη διαχείριση βίαιων εγκλημάτων, τρομοκρατικών απειλών και εμπορίας ανθρώπων. Αν και εξακολουθεί να χρησιμοποιείται συχνά για μικρότερα εγκλήματα όπως η κλοπή από καταστήματα, η κλοπή αγαθών αξίας 12 δολαρίων ή η πώληση ναρκωτικών αξίας 50 δολαρίων, η χρήση της στις ΗΠΑ φαίνεται ακόμα «ήπια» σε σύγκριση με την ευρεία χρήση της στην Κίνα.
Το σύστημα αναγνώρισης προσώπου στην Κίνα καταγράφει σχεδόν κάθε πολίτη της χώρας, με ένα τεράστιο δίκτυο καμερών. Μια διαρροή βάσης δεδομένων το 2022 αποκάλυψε πόσο διαδεδομένα είναι τα εργαλεία επιτήρησης στην Κίνα, με πάνω από 7,2 εκατομμύρια εγγραφές από μια μόνο μέρα, τραβηγμένες από κάμερες τοποθετημένες γύρω από ξενοδοχεία, πάρκα, τουριστικά σημεία και τζαμιά, καταγράφοντας λεπτομέρειες ακόμη και για άτομα ηλικίας μόλις 9 ημερών.
Η κινεζική κυβέρνηση κατηγορείται ότι χρησιμοποιεί την αναγνώριση προσώπου για να διαπράττει αγριότητες εναντίον των Μουσουλμάνων Ουιγούρων, βασιζόμενη στην τεχνολογία για να εκτελέσει «τη μεγαλύτερη μαζική φυλάκιση μιας πληθυσμιακής μειονότητας στον κόσμο σήμερα».
«Η Κίνα χρησιμοποιεί την αναγνώριση προσώπου για να προφίλάρει άτομα Ουιγούρους, να τα κατατάσσει με βάση την εθνότητά τους και να τα επιλέγει για παρακολούθηση, κακομεταχείριση και κράτηση», ανέφερε μια διακομματική ομάδα 17 γερουσιαστών σε επιστολή τους προς τον Υπουργό Εξωτερικών στις 11 Μαρτίου. «Και αυτές οι τεχνολογίες χρησιμοποιούνται για την προώθηση μιας δυστοπικής αντίληψης για την τεχνολογική διακυβέρνηση, η οποία εκμεταλλεύεται τα οικονομικά οφέλη του διαδικτύου χωρίς πολιτική ελευθερία και βλέπει τις εταιρείες τεχνολογίας ως εργαλεία της κρατικής εξουσίας».
Η επιθετική ανάπτυξη και χρήση της αναγνώρισης προσώπου από την Κίνα παρέχει μια εικόνα για το πώς μια τεχνολογία που μπορεί να είναι αβλαβής και ωφέλιμη – όπως η λειτουργία Face ID του iPhone – μπορεί επίσης να χρησιμοποιηθεί για να καταστείλει πράξεις που ο μέσος άνθρωπος μπορεί να μην θεωρεί καν παράνομες. Οι Κινέζοι αξιωματούχοι έχουν χρησιμοποιήσει εργαλεία επιτήρησης για να ταπεινώσουν δημόσια άτομα που φορούν πιτζάμες δημόσια, αποκαλώντας αυτό «απολίτιστη συμπεριφορά».
Η τιμωρία αυτών των μικροπαραπτωμάτων είναι εκ προθέσεως, δήλωσαν ειδικοί στην επιτήρηση. Η απειλή δημόσιας ταπείνωσης μέσω αναγνώρισης προσώπου βοηθά τους Κινέζους αξιωματούχους να καθοδηγούν πάνω από ένα δισεκατομμύριο ανθρώπους προς το τι θεωρείται αποδεκτή συμπεριφορά, από το τι φοράς μέχρι το πώς διασχίζεις το δρόμο.
«Η ιδέα είναι ότι οι αρχές προσπαθούν να εφαρμόσουν εκτενή επιτήρηση και μηχανισμό διαμόρφωσης συμπεριφοράς σε μαζική κλίμακα», δήλωσε η Μάγια Ουάνγκ, ανώτερη ερευνήτρια για την Κίνα στο Παρατηρητήριο Ανθρωπίνων Δικαιωμάτων. «Οι αρχές θέλουν να δημιουργήσουν μια κοινωνία που να είναι πολύ εύκολη για αυτές να διαχειριστούν».
Διαμόρφωση συμπεριφοράς
Η ιδέα ότι η αναγνώριση προσώπου στην Κίνα θα μπορούσε αυτόματα να βάλει το όνομά σου και τη φωτογραφία σου σε μια πινακίδα επειδή πέρασες με κόκκινο και να σου στείλει ιδιωτικά πρόστιμο προκαλεί φόβο στους ανθρώπους για να συμπεριφέρονται με έναν συγκεκριμένο τρόπο, δήλωσε η Ουάνγκ.
Η τεχνολογία συχνά έχει αυτή την ικανότητα να επηρεάζει τη συμπεριφορά, ακόμα και εκτός Κίνας. Η διαμόρφωση συμπεριφοράς είναι η ιδέα συνδυασμού τεχνολογίας και ψυχολογίας για να ενθαρρύνει τους ανθρώπους να ενεργούν με έναν συγκεκριμένο τρόπο, και το βλέπουμε καθημερινά. Είναι εμφανές στα «σκοτεινά πρότυπα», δηλαδή στις σχεδιαστικές επιλογές που εμποδίζουν την έξοδο από τις επιλογές ή ξεγελούν τους ανθρώπους να παραχωρούν τα προσωπικά τους δεδομένα.
Αλλά υπάρχει μια βασική διαφορά στον τρόπο που εφαρμόζεται η διαμόρφωση συμπεριφοράς στις ΗΠΑ σε σύγκριση με την Κίνα και την αναγνώριση προσώπου.
«Στις ΗΠΑ εκφράζεται με εμπορικό τρόπο, ενώ στην Κίνα είναι κρατική προσπάθεια», είπε η Ουάνγκ. «Η δυναμική είναι διαφορετική, και η ποσότητα της εξουσίας είναι διαφορετική, αλλά υπάρχουν εντυπωσιακές ομοιότητες».
Στις ΗΠΑ, η διαμόρφωση συμπεριφοράς μπορεί να γίνει μέσω της συλλογής δεδομένων και της προώθησης ή του αποκλεισμού περιεχομένου βάσει προβλεπόμενων χαρακτηριστικών προσωπικότητας.
Το σκάνδαλο του Facebook το 2018 με την Cambridge Analytica οφειλόταν στο γεγονός ότι η πλέον διαλυμένη βρετανική εταιρεία ανάλυσης δεδομένων χρησιμοποίησε δεδομένα από εκατομμύρια ανθρώπους για να στοχεύσει διαφημίσεις που θα επηρέαζαν την ψήφο τους.
Αν και αυτός ο τύπος διαμόρφωσης συμπεριφοράς στοχεύει κυρίως στην πώληση προϊόντων και το κέρδος, η ώθηση της Κίνας είναι περισσότερο για να ενσταλάξει φόβο και έλεγχο στον πληθυσμό της – και η αναγνώριση προσώπου παίζει βασικό ρόλο σε αυτό.
«Ενσταλάζει την ιδέα ότι “αυτή είναι η λειτουργία της κοινωνίας”, ότι σε παρακολουθούν πάντα», δήλωσε ο Τζέικ Λαπερρούκ, ανώτερος σύμβουλος στο Συνταγματικό Πρόγραμμα. «Φαίνεται ότι προσπαθεί να ενισχύσει στους ανθρώπους ότι “σας παρακολουθούμε συνεχώς, αν κάνετε κάτι που θα μας ενοχλήσει, θα σας δούμε και θα βρούμε τρόπο να σας ντροπιάσουμε”».
Το ιστορικό της Κίνας
Στην Κίνα, κανείς δεν είναι ασφαλής από την αναγνώριση προσώπου, ούτε από τη δημόσια ταπείνωση που τη συνοδεύει.
Οι κάμερες σε διαβάσεις πεζών που εντοπίζουν και δημοσιεύουν φωτογραφίες παραβατών είναι συνηθισμένες, και μια έκθεση του Abacus τον Μάιο του 2019 έδειξε φωτογραφίες παιδιών που περνούσαν παράνομα από το δρόμο σε μια ψηφιακή πινακίδα. Η τοπική τροχαία δήλωσε ότι «τα παιδιά πρέπει να αντιμετωπίζονται όπως οι ενήλικες».
Ένα κινέζικο πάρκο έχει επίσης χρησιμοποιήσει την αναγνώριση προσώπου για να εμποδίσει τους ανθρώπους να παίρνουν υπερβολική ποσότητα χαρτιού υγείας, σκανάροντας τα πρόσωπά τους πριν τους δώσει ρολά χαρτιού.
«Είναι ένα σύστημα “ό,τι κι αν γίνει”, ανεξάρτητα από το πόσο μικρή είναι η παράβαση», δήλωσε ο Λαπερρούκ από το Συνταγματικό Πρόγραμμα. «Οποιαδήποτε παράβαση επιτρέπεται για αυτή την τεχνολογία».
Και ενώ στις ΗΠΑ η αναγνώριση προσώπου περνά από μια εξέταση για τις φυλετικές προκαταλήψεις και τα ανθρώπινα δικαιώματα, στην Κίνα, οι πάροχοι της τεχνολογίας επιτήρησης προβάλλουν τις δυνατότητες τους να διαχωρίζουν άτομα διαφορετικών εθνικοτήτων.
Τον Νοέμβριο, η IPVM διαπίστωσε ότι η κινεζική εταιρεία επιτήρησης Hikvision διαφήμιζε ότι οι κάμερές της μπορούσαν να αναγνωρίσουν αυτόματα τους Ουιγούρους Μουσουλμάνους μέσω της αναγνώρισης προσώπου.
Υπάρχει αντίδραση στην αναγνώριση προσώπου στις ΗΠΑ επειδή οι ερευνητές μπορούν να φέρουν στο φως τις ανησυχίες τους για τις φυλετικές προκαταλήψεις της τεχνολογίας, αλλά στην Κίνα δεν υπάρχει παρόμοια έρευνα.
Η ακρίβεια της αναγνώρισης προσώπου στην Κίνα δεν αμφισβητείται, ακόμα και όταν τυχαία αναγνωρίζει άτομα από διαφημίσεις σε λεωφορεία ως παραβάτες.
«Οι Αμερικανοί μπορούν να μιλούν για φυλετικές ανισότητες χωρίς φόβο», δήλωσε η Ουάνγκ από το Παρατηρητήριο Ανθρωπίνων Δικαιωμάτων. «Αυτά τα συστήματα δεν συζητούνται ή αμφισβητούνται στην Κίνα. Δεν υπάρχει κανένας χώρος, τόσο διαδικτυακά όσο και εκτός διαδικτύου, για να συζητηθούν φυλετικές προκαταλήψεις και η καταπίεση μειονοτήτων στην Κίνα».
Αναγνώριση της επιρροής
Το μοντέλο της Κίνας για την αναγνώριση προσώπου, από την καταπιεστική επιτήρηση των Ουιγούρων Μουσουλμάνων έως την καθημερινή επιβολή ελέγχου σε έναν πληθυσμό 1,4 δισεκατομμυρίων ανθρώπων, προκαλεί επίσης ανησυχία στη διεθνή κοινότητα, δήλωσαν Αμερικανοί νομοθέτες.
Τον Σεπτέμβριο, το Carnegie Endowment for International Peace διαπίστωσε ότι η Κίνα ήταν μεγάλος προμηθευτής τεχνολογίας επιτήρησης, παρέχοντας την τεχνολογία σε 63 χώρες. Ο επόμενος μεγαλύτερος προμηθευτής ήταν η ιαπωνική NEC Corporation, η οποία πωλεί αναγνώριση προσώπου σε 14 χώρες.
Τον Απρίλιο, το Reuters ανέφερε ότι η Amazon αγόρασε κάμερες από την Dahua, μια κινεζική εταιρεία επιτήρησης που έχει συμπεριληφθεί στη μαύρη λίστα των ΗΠΑ για τον ισχυρισμό ότι βοηθά την Κίνα να κρατά και να παρακολουθεί τους Ουιγούρους Μουσουλμάνους.
Η συμφωνία ύψους 10 εκατομμυρίων δολαρίων αφορούσε 1.500 κάμερες για την παρακολούθηση της εξάπλωσης του COVID-19, σύμφωνα με την αναφορά.
Στην επιστολή των γερουσιαστών στις 11 Μαρτίου, τέθηκαν ζητήματα σχετικά με την επιρροή της Κίνας στο πώς πρέπει να χρησιμοποιείται η αναγνώριση προσώπου όταν η Κίνα είναι ο μεγαλύτερος εξαγωγέας της τεχνολογίας.
Η Ουάνγκ σημείωσε ότι ενώ η αναγνώριση προσώπου αποτελεί υποκατάστατο για τους αμερικανικούς τεχνολογικούς γίγαντες, όπως η Rekognition της Amazon ή η Microsoft, στην Κίνα υπάρχουν πολλές εταιρείες που κυριαρχούν ήδη στον κλάδο. Η αποδοχή ενός κράτους επιτήρησης στη χώρα επιτρέπει στους παρόχους αναγνώρισης προσώπου να προχωρήσουν με την τεχνολογία, ακόμη και για τις πιο ασήμαντες χρήσεις.
Με αυτό το επίπεδο επιρροής, υπάρχουν ανησυχίες ότι το μοντέλο της Κίνας για τη χρήση της αναγνώρισης προσώπου – ένα ευρύ δίκτυο σχεδιασμένο για δημόσια ταπείνωση και έλεγχο – θα μπορούσε να επεκταθεί στον υπόλοιπο κόσμο.
«Δυστυχώς, η Κίνα έχει δείξει τη βούληση να χρησιμοποιήσει διεθνείς οργανισμούς για να ομαλοποιήσει τις απόψεις για την τεχνολογία επιτήρησης τύπου Όργουελ», δήλωσε η ομάδα των νομοθετών. «Με το να επηρεάζει τη συζήτηση σχετικά με τις νόμιμες χρήσεις της τεχνητής νοημοσύνης και της αναγνώρισης προσώπου, η Κίνα μπορεί να επεκτείνει τις ευκαιρίες για χώρες, ιδιαίτερα στον αναπτυσσόμενο κόσμο, να αξιοποιούν την κινεζική τεχνολογία επιτήρησης».
