ΑΙ: 0,85% πιθανότητα εξαφάνισης ανθρωπότητας έως το 2036

Η παραίτηση του ερευνητή τεχνητής νοημοσύνης Τζέικομπ Κόξον από την Anthropic νωρίτερα αυτόν τον μήνα συνοδεύτηκε από μια δραματική προειδοποίηση: η εταιρεία και οι ανταγωνιστές της «παίζουν τζόγο με τις ζωές μας». Ο Κόξον, ειδικός στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης και πρώην στέλεχος της OpenAI – της εταιρείας πίσω από το ChatGPT – υποστήριξε ότι όσοι κατασκευάζουν συστήματα τεχνητής νοημοσύνης «πιστεύουν ακράδαντα ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Οι δυσοίωνες προβλέψεις του, που διατυπώθηκαν μέσω αναρτήσεων στην πλατφόρμα Χ, βρήκαν άμεση ανταπόκριση στον κύκλο των ειδικών. Ο μηχανικός ασφαλείας Έβαν Χούμπινγκερ συμφώνησε με τον Κόξον, προσθέτοντας ότι «πιστεύουμε πραγματικά ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά πιστεύω ότι είναι >10% μέσα στην επόμενη δεκαετία». Η τοποθέτηση αυτή δεν αποτελεί μεμονωμένη περίπτωση· ειδικοί παγκοσμίως έχουν διατυπώσει παρόμοιες εκτιμήσεις κινδύνου. Ο νομπελίστας επιστήμονας υπολογιστών και αποκαλούμενος «νονός της Τεχνητής Νοημοσύνης», Τζέφρι Χίντον, δήλωσε στο BBC ότι οι πιθανότητες η ΑΙ να εξαλείψει την ανθρωπότητα τα επόμενα χρόνια δεν είναι γνωστές, όμως «μια πιθανότητα 10% δεν φαίνεται παράλογη εκτίμηση».

Τις τελευταίες ημέρες, κορυφαίοι επιχειρηματίες του τεχνολογικού τομέα, όπως ο Σαμ Άλτμαν της OpenAI και ο Ίλον Μασκ, συντάχθηκαν με την έκκληση του επικεφαλής της Anthropic για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, ώστε να δοθεί χρόνος στα μέτρα ασφαλείας να συμβαδίσουν με την πρόοδο. Το ερώτημα όμως παραμένει: τι λέει η ίδια η Τεχνητή Νοημοσύνη για τις απειλές που προκαλεί;

Η εφημερίδα Independent επιχείρησε να διαπιστώσει αν η ΑΙ μπορεί να διαδραματίσει ρόλο στην κατανόηση της απειλής που η ίδια θέτει. Για τον σκοπό αυτό, χρησιμοποίησε το Noah Predict, ένα σύστημα τεχνητής νοημοσύνης που μετατρέπει εκατομμύρια ειδήσεις και δεδομένα σε τάσεις και κινδύνους, προκειμένου να καταλήξει σε μια βαθμονόμηση πιθανοτήτων για το ενδεχόμενο η τεχνητή νοημοσύνη να εξαλείψει την ανθρωπότητα την επόμενη δεκαετία. Το λεγόμενο εργαλείο «υπερ-πρόβλεψης» εξέτασε ερωτήσεις σε 41 γραμμές έρευνας και 108 ερευνητικούς ελέγχους, αξιοποιώντας περίπου 52 εκατομμύρια στοιχεία δεδομένων.

Το αποτέλεσμα ήταν εντυπωσιακά διαφορετικό από τις εκτιμήσεις των ερευνητών: η απάντηση δεν ήταν 10%, αλλά 0,85% – δηλαδή περίπου μία πιθανότητα στις 118 η Τεχνητή Νοημοσύνη να εξαλείψει όντως την ανθρωπότητα την επόμενη δεκαετία. Παρότι το ποσοστό είναι μικρό, δεν είναι ασήμαντο, ειδικά όταν ένας κακόβουλος παράγοντας μπορεί να αλλάξει την πορεία των γεγονότων και οι συνέπειες θα μπορούσαν να είναι μη αναστρέψιμες.

Σε ερωτήσεις προς το Noah Predict για το πού εντοπίζεται ο κίνδυνος, πώς θα μπορούσε να κλιμακωθεί και ποιες παρεμβάσεις θα μπορούσαν πραγματικά να τον μειώσουν, το σύστημα απάντησε αναλύοντας τρεις διακριτές κατηγορίες απειλών.

Πρώτος κίνδυνος: Ανθρώπινος παράγοντας

Σύμφωνα με την ανάλυση της ΑΙ, «η πιο άμεση απειλή προέρχεται από τους ανθρώπους, όχι από μια μηχανή που αποφασίζει ότι η ανθρωπότητα είναι αναλώσιμη». Ωστόσο, «η τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει έναν κακόβουλο παράγοντα να εκτελέσει μέρη μιας επικίνδυνης εργασίας πιο γρήγορα, φθηνότερα και αποτελεσματικά». Το Εθνικό Κέντρο Κυβερνοασφάλειας της Βρετανίας εκτίμησε τον Μάιο του 2025 ότι η ΑΙ θα αύξανε τη συχνότητα και την ένταση των κυβερνοαπειλών έως το 2027, διευρύνοντας παράλληλα το χάσμα μεταξύ των επαρκώς προστατευμένων συστημάτων και των ευάλωτων. Πάντως, σε κάθε περίπτωση, μια επίθεση σε ένα νοσοκομείο ή σε ένα δίκτυο ηλεκτρικής ενέργειας θα μπορούσε μεν να σκοτώσει πολύ κόσμο, όμως δεν θα απειλούσε να εξαλείψει τον ανθρώπινο πληθυσμό.

Δεύτερος κίνδυνος: Αποτυχία λογισμικού

«Ένα σύστημα ΑΙ δεν χρειάζεται να δυσλειτουργεί για να προκαλέσει σοβαρές διαταραχές. Εάν οι εργοδότες το χρησιμοποιούν για να αναδιοργανώσουν την εργασία ταχύτερα από ό,τι μπορούν οι άνθρωποι να επανεκπαιδευτούν, η προκύπτουσα κατανομή των απωλειών θα μπορούσε να γίνει αποσταθεροποιητική. Εφόσον οι οργανισμοί και οι επιχειρήσεις εξαρτώνται σε μεγάλο βαθμό από αυτοματοποιημένες υπηρεσίες, μια κοινή βλάβη θα μπορούσε να επηρεάσει πολλές βασικές δραστηριότητες μαζί», αναφέρει το σύστημα Noah. Ενώ ο αντίκτυπος της Τεχνητής Νοημοσύνης στις θέσεις εργασίας αποτελεί τεράστια ανησυχία για πολλούς, με το φάσμα της ανεργίας και της πολιτικής αστάθειας να εμφανίζεται όλο και πιο απειλητικό, εντούτοις είναι απίθανο ότι μπορεί να αποτελέσει απειλή σε επίπεδο εξαφάνισης της ανθρωπότητας.

Τρίτος κίνδυνος: Παράκαμψη του ελέγχου

Το πιο ανησυχητικό σενάριο είναι ένα σύστημα που έχει κατασκευαστεί για την επίτευξη ενός στόχου για τον οποίο όμως η ανθρώπινη παρέμβαση έχει καταστεί εμπόδιο: ως εκ τούτου, η ΑΙ συνεχίζει να επιδιώκει τους στόχους της, παρά τις προσπάθειες διόρθωσης ή διακοπής του συστήματος. Ωστόσο, υπάρχει μια ουσιαστική διαφορά μεταξύ της παραβίασης μιας εντολής δοκιμής και της διαφυγής από τον διαρκή έλεγχο. «Ένα εργαστηριακό αποτέλεσμα μπορεί να αποκαλύψει μια αδυναμία χωρίς να δημιουργήσει μια αυτόνομη, αυτοσυντηρούμενη απειλή», αναφέρει η ΑΙ. «Τα ερωτήματα είναι αν η συμπεριφορά αναπαράγεται, ποια πρόσβαση απαιτούσε το σύστημα, αν οι χειριστές την ανίχνευσαν και αν η παρέμβασή τους λειτούργησε». Η απόκριση πρέπει να διατηρεί τη δυνατότητα διακοπής λειτουργίας μεμονωμένων συστημάτων, να περιορίζει τα προνόμιά τους, να περιορίζει την πρόσβασή τους σε επακόλουθες υποδομές, να πραγματοποιεί δοκιμές με αντισυμβατικό τρόπο και να επαληθεύει τις διαδικασίες τερματισμού λειτουργίας και αποκατάστασης.

Ο απολογισμός

Οι τρεις κατηγορίες είναι ευρείες, ενδεχομένως θα μπορούσαν να συγχωνευθούν, ενώ οι διασφαλίσεις θα μπορούσαν να αποτύχουν ταυτόχρονα. Για παράδειγμα, η πολιτική αστάθεια και η απώλεια θέσεων εργασίας θα μπορούσαν να μειώσουν τον ανθρώπινο έλεγχο. Συμπερασματικά, οι άνθρωποι πρέπει να αναπτύξουν συστήματα που είναι πλήρως ασφαλή και εξακολουθούν να βασίζονται στον ανθρώπινο έλεγχο. Και καθώς ξεκλειδώνουμε τις μυριάδες χρήσιμες και ζωτικές δυνατότητες της Τεχνητής Νοημοσύνης, πρέπει επίσης να περιορίσουμε τις δυνατότητες που θα μπορούσαν να οδηγήσουν σε σοβαρή κακή χρήση ή απώλεια ελέγχου από τους χειριστές τους.