Όποιος ελέγχει τα δεδομένα ελέγχει το μέλλον – Η σκοτεινή πλευρά της εποχής της AI

Η συζήτηση για τη συγκέντρωση δεδομένων, την τεχνητή νοημοσύνη και τον ρόλο των μεγάλων τεχνολογικών ομίλων παίρνει ολοένα πιο έντονα πολιτικά χαρακτηριστικά. Αφορμή αποτέλεσαν τοποθετήσεις του ιδρυτή της Oracle, Λάρι Έλισον, και του πρώην πρωθυπουργού της Βρετανίας Τόνι Μπλερ στο πλαίσιο της Παγκόσμιας Συνόδου Κορυφής Κυβερνήσεων, οι οποίες επανέφεραν στο προσκήνιο το ζήτημα των ορίων ανάμεσα στην τεχνολογική πρόοδο, την ασφάλεια και την ιδιωτικότητα.

Ο Λάρι Έλισον έχει περιγράψει ένα μέλλον στο οποίο η τεχνολογία θα μπορεί να καταγράφει και να αναλύει σε συνεχή βάση όσα συμβαίνουν γύρω από τους πολίτες, με την προσδοκία ότι η ίδια η γνώση της καταγραφής θα επηρεάζει και τη συμπεριφορά τους.

Μια τέτοια προοπτική μπορεί να παρουσιάζεται ως εργαλείο ασφάλειας, καλύτερης διοίκησης και πρόληψης. Ταυτόχρονα, όμως, δημιουργεί ένα θεμελιώδες δημοκρατικό ζήτημα: ποιος συγκεντρώνει τα δεδομένα, ποιος τα επεξεργάζεται, ποιος έχει πρόσβαση σε αυτά και ποιος τελικά ελέγχει εκείνον που ελέγχει τα συστήματα.

Στη νέα ψηφιακή εποχή, τα δεδομένα έχουν μετατραπεί σε ένα από τα πολυτιμότερα περιουσιακά στοιχεία. Όποιος διαθέτει μεγάλης κλίμακας βάσεις δεδομένων αποκτά σημαντικό πλεονέκτημα στην ανάπτυξη μοντέλων τεχνητής νοημοσύνης, στη δημιουργία νέων υπηρεσιών και στη διαμόρφωση οικονομικής και πολιτικής ισχύος.

Τα δεδομένα υγείας ως «καύσιμο» για την Τεχνητή Νοημοσύνη

Ιδιαίτερο ενδιαφέρον παρουσιάζουν τα δεδομένα υγείας. Ιατρικά ιστορικά, αποτελέσματα εξετάσεων, γενετικές πληροφορίες και δεδομένα που αφορούν εκατομμύρια ανθρώπους μπορούν, υπό συγκεκριμένες προϋποθέσεις, να χρησιμοποιηθούν για την ανάπτυξη νέων διαγνωστικών εργαλείων, φαρμάκων και εφαρμογών τεχνητής νοημοσύνης.

Για τις εταιρείες τεχνολογίας και βιοτεχνολογίας, τέτοιες βάσεις δεδομένων έχουν τεράστια ερευνητική και οικονομική αξία. Όσο μεγαλύτερος και ποιοτικότερος είναι ο όγκος των πληροφοριών, τόσο ισχυρότερα μπορούν να γίνουν τα συστήματα ανάλυσης και πρόβλεψης.

Ακριβώς εδώ αρχίζει και η μεγάλη ανησυχία. Τα ιατρικά δεδομένα δεν είναι μια συνηθισμένη εμπορική πληροφορία. Αφορούν την κατάσταση της υγείας, το γονιδίωμα, πιθανές παθήσεις, προδιαθέσεις και πλευρές της ζωής ενός ανθρώπου που βρίσκονται στον πυρήνα του ιατρικού απορρήτου.

Η ανάπτυξη ισχυρότερων μοντέλων τεχνητής νοημοσύνης δημιουργεί επομένως ένα διπλό πρόσωπο. Από τη μία πλευρά μπορεί να επιταχύνει την έρευνα, να βοηθήσει στην έγκαιρη διάγνωση ασθενειών και να προσφέρει καλύτερα εργαλεία στους γιατρούς. Από την άλλη, δημιουργεί τεράστια πίεση για πρόσβαση σε ολοένα μεγαλύτερες δεξαμενές προσωπικών δεδομένων.

Η τεχνολογική και οικονομική ισχύς που προκύπτει από αυτή τη συγκέντρωση δεν μπορεί να αγνοηθεί. Ιδιαίτερα όταν κρίσιμες δημόσιες υποδομές βασίζονται σε συστήματα και υπηρεσίες που αναπτύσσονται ή λειτουργούν από έναν περιορισμένο αριθμό παγκόσμιων τεχνολογικών εταιρειών.

Ένα δεύτερο επίπεδο αφορά τη δυνατότητα διαρκούς ανάλυσης συμπεριφοράς και κινήσεων. Η μαζική επεξεργασία βιομετρικών δεδομένων, γεωγραφικών πληροφοριών, εικόνας, ήχου και ψηφιακών συνηθειών απαιτεί τεράστια υπολογιστική ισχύ και αντίστοιχες υποδομές δεδομένων.

Τα μεγάλα κέντρα δεδομένων και τα συστήματα τεχνητής νοημοσύνης αποτελούν τη βασική τεχνική υποδομή πάνω στην οποία μπορούν να στηριχθούν τόσο χρήσιμες δημόσιες υπηρεσίες όσο και πολύ πιο εκτεταμένοι μηχανισμοί παρακολούθησης.

Η ύπαρξη της τεχνολογικής δυνατότητας δεν σημαίνει αυτομάτως ότι κάθε τέτοιο σύστημα χρησιμοποιείται για καθολική επιτήρηση. Σημαίνει, όμως, ότι η δυνατότητα υπάρχει και επομένως χρειάζεται πολύ αυστηρό θεσμικό πλαίσιο για το πότε, πώς και από ποιον μπορεί να χρησιμοποιηθεί.

Το κρίσιμο ζήτημα της συγκατάθεσης και του ελέγχου

Τα επιχειρήματα υπέρ της συγκέντρωσης δεδομένων συνδέονται συνήθως με στόχους όπως η ταχύτερη ανίχνευση ασθενειών, η αποτελεσματικότερη λειτουργία των συστημάτων υγείας, η πρόληψη απειλών και η ενίσχυση της δημόσιας ασφάλειας.

Οι στόχοι αυτοί έχουν πραγματική αξία. Το πρόβλημα ξεκινά όταν η τεχνολογική αποτελεσματικότητα χρησιμοποιείται ως λόγος για να περιορίζεται σταδιακά η δυνατότητα του πολίτη να γνωρίζει ποια δεδομένα του συλλέγονται και να αποφασίζει ποιος έχει δικαίωμα να τα χρησιμοποιεί.

Η γραμμή ανάμεσα στο δημόσιο συμφέρον και στην ανεξέλεγκτη συγκέντρωση πληροφοριών μπορεί να γίνει εξαιρετικά λεπτή όταν κυβερνήσεις και μεγάλες εταιρείες τεχνολογίας συνεργάζονται σε συστήματα που διαχειρίζονται κρίσιμες κρατικές λειτουργίες.

Οι ιδιωτικές επιχειρήσεις λειτουργούν με βασικό κίνητρο την οικονομική απόδοση. Οι κυβερνήσεις διαθέτουν εξουσίες που καμία ιδιωτική εταιρεία δεν έχει. Όταν τα δύο αυτά επίπεδα συναντώνται σε τεράστιες ψηφιακές υποδομές, το ζήτημα της διαφάνειας και της λογοδοσίας γίνεται ακόμη πιο κρίσιμο.

Το θεμελιώδες ερώτημα είναι εάν ο πολίτης θα εξακολουθεί να διαθέτει ουσιαστικό δικαίωμα επιλογής ή αν η συμμετοχή σε ολοένα περισσότερα κεντρικά ψηφιακά συστήματα θα μετατρέπεται σταδιακά σε υποχρεωτική προϋπόθεση για την πρόσβαση σε υπηρεσίες, υγεία, διοίκηση και κοινωνική ζωή.

Σε ένα τέτοιο περιβάλλον, η έννοια της συγκατάθεσης κινδυνεύει να γίνει τυπική. Όταν η μόνη πρακτική επιλογή είναι η αποδοχή ενός συστήματος, το ερώτημα είναι κατά πόσο μπορεί να γίνεται ακόμη λόγος για πραγματικά ελεύθερη συναίνεση.

Η ανησυχία γύρω από αυτή την εξέλιξη δεν χρειάζεται να οδηγεί σε απόρριψη της τεχνολογίας ούτε σε ατεκμηρίωτες θεωρίες. Αποτελεί εύλογο δημοκρατικό προβληματισμό για την προστασία της ιδιωτικότητας και της αυτονομίας του πολίτη.

Η τεχνολογία είναι ήδη ικανή να συνδυάζει τεράστιες ποσότητες δεδομένων, να αναγνωρίζει πρόσωπα, να αναλύει φωνές, να εντοπίζει πρότυπα συμπεριφοράς και να δημιουργεί λεπτομερή προφίλ ανθρώπων.

Το ζήτημα επομένως έχει μετακινηθεί. Η συζήτηση δεν αφορά πλέον μόνο το τι μπορεί να κάνει η τεχνολογία. Αφορά κυρίως ποια όρια θα της επιβάλουν οι δημοκρατικοί θεσμοί.

Η κοινωνία καλείται να αποφασίσει πόση ιδιωτικότητα είναι διατεθειμένη να παραχωρήσει για περισσότερη ευκολία, ασφάλεια ή αποτελεσματικότητα και ποια δεδομένα πρέπει να παραμένουν αυστηρά υπό τον έλεγχο του ίδιου του πολίτη.

Οι μεγάλες ψηφιακές υποδομές χτίζονται ήδη. Τα κέντρα δεδομένων πολλαπλασιάζονται, τα μοντέλα τεχνητής νοημοσύνης εξελίσσονται και οι κυβερνήσεις μεταφέρουν ολοένα περισσότερες λειτουργίες τους σε ψηφιακά συστήματα.

Αυτό καθιστά ακόμη πιο επιτακτική την ανάγκη για σαφείς κανόνες, αυστηρή εποπτεία, ανεξάρτητους ελέγχους, περιορισμό πρόσβασης και ουσιαστικό δικαίωμα ενημέρωσης και αντίδρασης των πολιτών.

Η μεγαλύτερη απειλή δεν βρίσκεται στην ίδια την τεχνολογία. Βρίσκεται στην πιθανότητα να εγκατασταθεί ένα σύστημα τόσο εκτεταμένο και τόσο κεντρικοποιημένο, ώστε η κοινωνία να αντιληφθεί πολύ αργά ότι έχασε τον πραγματικό έλεγχο πάνω στα προσωπικά της δεδομένα.

Το δίλημμα της εποχής είναι πλέον καθαρό: τεχνολογική πρόοδος με δημοκρατικές εγγυήσεις ή συγκέντρωση ισχύος χωρίς ουσιαστικά αντίβαρα. Και αυτή είναι μια συζήτηση που πρέπει να γίνει πριν οι νέες ψηφιακές υποδομές μετατραπούν σε μια πραγματικότητα από την οποία η επιστροφή θα είναι εξαιρετικά δύσκολη.