Παραίτηση στην Anthropic και βαριές προειδοποιήσεις για αυτοβελτιούμενη υπερνοημοσύνη

Σοβαρή προειδοποίηση για τους κινδύνους από την εξέλιξη της τεχνητής νοημοσύνης διατύπωσε ανώτερος ερευνητής της Anthropic, υποστηρίζοντας ότι πολλοί μέσα στην εταιρεία θεωρούν υπαρκτό ακόμη και το ενδεχόμενο ένα μελλοντικό σύστημα υπερνοημοσύνης να αποτελέσει υπαρξιακή απειλή για την ανθρωπότητα.

Ο Evan Hubinger, επικεφαλής της επιστήμης της ευθυγράμμισης στην Anthropic, ανέφερε σε ανάρτησή του στο X ότι ο ίδιος και συνάδελφοί του «πιστεύουν ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να εξοντώσει όλους τους ανθρώπους», εκτιμώντας ότι η πιθανότητα ενός τέτοιου σεναρίου μέσα στην επόμενη δεκαετία υπερβαίνει το 10%.

Ο Hubinger υποστήριξε ακόμη ότι, παρά τις προσπάθειες που γίνονται, η εταιρεία δεν διαθέτει σήμερα ένα σαφές και ολοκληρωμένο σχέδιο για την επίλυση του προβλήματος της ευθυγράμμισης της υπερνοημοσύνης με τους ανθρώπινους στόχους και τις αξίες.

Όπως έγραψε, η Anthropic «καταβάλλει κάθε δυνατή προσπάθεια», ωστόσο δεν βρίσκεται ακόμη σε ξεκάθαρη τροχιά επίλυσης του συγκεκριμένου ζητήματος.

Παραίτηση ερευνητή με βαριές αιχμές για τον αγώνα της τεχνητής νοημοσύνης

Η τοποθέτηση του Hubinger ήρθε ως απάντηση σε ανάρτηση του Jacob Coxon, επίσης ερευνητή της Anthropic, ο οποίος ανακοίνωσε την αποχώρησή του από την εταιρεία εκφράζοντας σοβαρές ανησυχίες για τον τρόπο με τον οποίο εξελίσσεται ο παγκόσμιος ανταγωνισμός στην τεχνητή νοημοσύνη.

Ο Coxon, ο οποίος έχει εργαστεί σε έρευνα προ-εκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic, κατηγόρησε τις μεγαλύτερες εταιρείες του κλάδου ότι δεν λειτουργούν με το απαιτούμενο επίπεδο υπευθυνότητας.

Κατά τον ίδιο, οι εταιρείες κινούνται με μεγάλη ταχύτητα προς την ανάπτυξη συστημάτων αυτοβελτιούμενης υπερνοημοσύνης, αναλαμβάνοντας ρίσκα που, όπως υποστηρίζει, αφορούν το σύνολο της ανθρωπότητας.

Ο αποχωρών ερευνητής ανέφερε ακόμη ότι μεταξύ ανθρώπων που βρίσκονται στην πρώτη γραμμή της ανάπτυξης τεχνητής νοημοσύνης υπάρχει πραγματική ανησυχία πως προηγμένα συστήματα θα μπορούσαν να οδηγήσουν σε καταστροφικά αποτελέσματα ακόμη και μέχρι το τέλος της δεκαετίας.

Στη συνέχεια ο Hubinger διευκρίνισε ότι η ανησυχία του δεν αφορά άμεσα τα σημερινά μοντέλα τεχνητής νοημοσύνης. Επικαλούμενος την τελευταία έκθεση κινδύνου της Anthropic, σημείωσε ότι η απειλή από τα υπάρχοντα συστήματα παραμένει χαμηλή.

Το βασικό σημείο ανησυχίας, όπως υπογράμμισε, είναι ένα μελλοντικό σύστημα υπερνοημοσύνης που θα μπορούσε να προκύψει μέσω αναδρομικής αυτοβελτίωσης, διαδικασία η οποία, κατά την εκτίμησή του, εξελίσσεται ταχύτερα από όσο αναμενόταν.

«Αγώνας δρόμου» μεταξύ των εταιρειών

Η Wall Street Journal είχε προηγουμένως μεταδώσει ότι ο Coxon αποχώρησε από την Anthropic εξαιτίας των φόβων του για την ανάπτυξη συστημάτων τεχνητής νοημοσύνης που θα μπορούν να βελτιώνουν αυτόνομα τις δυνατότητές τους.

Ο ίδιος δήλωσε στην εφημερίδα ότι θεωρεί πιθανή μια ταχεία μετάβαση προς ιδιαίτερα επιθετικά σενάρια ανάπτυξης και προειδοποίησε ότι μέχρι το τέλος του επόμενου έτους η κατάσταση θα μπορούσε, κατά την εκτίμησή του, να έχει ήδη γίνει πολύ δυσκολότερα ελέγξιμη.

Στις δημόσιες παρεμβάσεις του συνέκρινε επίσης την κουλτούρα ασφαλείας στην OpenAI και στην Anthropic. Υποστήριξε ότι στην Anthropic υπάρχει μεγαλύτερη επίγνωση του μεγέθους των κινδύνων, όμως ταυτόχρονα η εταιρεία βρίσκεται εγκλωβισμένη σε έναν ιδιαίτερα σκληρό ανταγωνισμό για το ποιος θα φτάσει πρώτος στα πιο προηγμένα συστήματα.

Κατά τον Coxon, η λογική που επικρατεί είναι ότι, εφόσον άλλοι ανταγωνιστές μπορεί να μην κινηθούν υπεύθυνα, η ίδια η Anthropic θεωρεί ότι πρέπει να προχωρήσει ταχύτερα ώστε να προηγηθεί, ακόμη και αν αυτό συνοδεύεται από σοβαρούς κινδύνους.

Οι προειδοποιήσεις αυτές προστίθενται σε ένα ευρύτερο κύμα ανησυχίας μεταξύ κορυφαίων επιστημόνων και στελεχών της τεχνητής νοημοσύνης, οι οποίοι ζητούν μεγαλύτερη εποπτεία και δυνατότητα επιβράδυνσης της ανάπτυξης προηγμένων συστημάτων όταν οι κίνδυνοι δεν έχουν ακόμη κατανοηθεί ή ελεγχθεί επαρκώς.

Τον Ιούλιο, προσωπικότητες του κλάδου, μεταξύ των οποίων οι συνιδρυτές της Anthropic Dario Amodei και Jared Kaplan, ο επικεφαλής επιστήμονας της OpenAI Jakub Pachocki και ο επικεφαλής επιστήμονας της Meta AI Shengjia Zhao, υπέγραψαν κοινή δήλωση για την ανάγκη να αναπτυχθούν τεχνικά και θεσμικά εργαλεία που θα επιτρέπουν ελεγχόμενο ρυθμό προόδου.

Στη δήλωση επισημαινόταν ότι η βιομηχανία, οι κυβερνήσεις και η κοινωνία ενδέχεται να χρειαστούν περισσότερο χρόνο για την αντιμετώπιση νέων κινδύνων, την ανάπτυξη αποτελεσματικών μέτρων ασφαλείας και την ενίσχυση της εποπτείας.

Παράλληλα, επισημαινόταν ότι οι εταιρείες βρίσκονται υπό έντονη ανταγωνιστική πίεση, γεγονός που καθιστά δύσκολη μια μονομερή επιβράδυνση. Για τον λόγο αυτό προτεινόταν διεθνής πρωτοβουλία, με συμμετοχή των ΗΠΑ, για τη δημιουργία εργαλείων και κανόνων που θα επιτρέπουν πιο ελεγχόμενη ανάπτυξη της προηγμένης τεχνητής νοημοσύνης.

Τις ίδιες ανησυχίες επανέλαβε πρόσφατα και ο Pachocki, σημειώνοντας ότι, κατά την εκτίμησή του, κανένα εργαστήριο τεχνητής νοημοσύνης δεν έχει ακόμη λύσει σε επαρκή βαθμό τα προβλήματα της ευθυγράμμισης και της παρακολούθησης ώστε να συνεχίσει για πολύ ακόμη να αυξάνει τις δυνατότητες των συστημάτων με τη μέγιστη δυνατή ταχύτητα.