Παραίτηση ερευνητή AI από την Anthropic

Ένας πρώην ερευνητής τεχνητής νοημοσύνης, ο οποίος είχε αποχωρήσει από την OpenAI για να ενταχθεί στην Anthropic, ανακοίνωσε την αποχώρησή του από τον κλάδο, εκφράζοντας σοβαρές ανησυχίες για την πορεία της τεχνολογικής ανάπτυξης. Ο ίδιος κατηγορεί τις δύο κορυφαίες εταιρείες του τομέα ότι επιδίδονται σε έναν επικίνδυνο ανταγωνισμό, θέτοντας σε κίνδυνο την ανθρωπότητα.

Ο Τζέικομπ Κόξον, ένας 27χρονος Βρετανός επιστήμονας, εργάστηκε για τρία χρόνια στον τομέα της προ-εκπαίδευσης μοντέλων AI, ενός σταδίου όπου τα συστήματα απορροφούν τεράστιους όγκους δεδομένων. Ξεκίνησε την καριέρα του στην OpenAI και νωρίτερα φέτος μετακινήθηκε στην Anthropic, την οποία θεωρούσε πιο προσεκτική ως προς τη διαχείριση των κινδύνων. Ωστόσο, η τελική του απόφαση ήταν να αποχωρήσει εντελώς από τον χώρο.

Σε ανάρτησή του στην πλατφόρμα Χ την Τρίτη, ο Κόξον ανέφερε χαρακτηριστικά: "Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Κατευθύνονται ολοταχώς προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται και παίζουν με τις ζωές μας". Η δήλωση αυτή έρχεται να προστεθεί σε μια σειρά προειδοποιήσεων από ειδικούς του κλάδου σχετικά με την ανεξέλεγκτη εξέλιξη της τεχνητής νοημοσύνης.

Ο ερευνητής υπογράμμισε ότι οι άνθρωποι που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της AI πιστεύουν ειλικρινά ότι η τεχνολογία αυτή θα μπορούσε να οδηγήσει στην εξαφάνιση του ανθρώπινου είδους έως το τέλος της δεκαετίας. "Δεν πρόκειται για κόλπο μάρκετινγκ", τόνισε, προσπαθώντας να μεταδώσει τη σοβαρότητα της κατάστασης όπως την αντιλαμβάνονται οι ίδιοι οι δημιουργοί των συστημάτων.

Οι ανησυχίες του Κόξον βρήκαν απήχηση και σε υψηλόβαθμο στέλεχος της Anthropic. Ο Έβαν Χάμπιντζερ, ο οποίος είναι αρμόδιος για θέματα ασφάλειας στην εταιρεία, σχολίασε την ανάρτηση επιβεβαιώνοντας ότι "πράγματι, πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους". Μάλιστα, ο Χάμπιντζερ εκτίμησε ότι ο κίνδυνος αυτός υπερβαίνει το 10% μέσα στην επόμενη δεκαετία.

Σε μια αποκαλυπτική συνέχεια των δηλώσεών του, ο Χάμπιντζερ παραδέχθηκε ότι η Anthropic καταβάλλει κάθε δυνατή προσπάθεια, αλλά ακόμη δεν διαθέτει ένα συγκεκριμένο σχέδιο για να διασφαλίσει ότι ένα σύστημα AI ανώτερο από τον άνθρωπο θα παραμείνει υπό έλεγχο. Παρόλα αυτά, εκτίμησε ότι ο κίνδυνος με τα τρέχοντα μοντέλα είναι σχετικά μικρός.

Η παραίτηση του Κόξον έρχεται σε μια κρίσιμη συγκυρία για την Anthropic, η οποία προετοιμάζεται για την είσοδό της στο χρηματιστήριο. Το γεγονός αυτό συνδέεται και με ένα καλοκαίρι κατά το οποίο ήρθαν στο φως περιστατικά μη εξουσιοδοτημένης χρήσης εργαλείων AI, γεγονός που εντείνει τις ανησυχίες για την ασφάλεια και τη δεοντολογία στον κλάδο.

Οι δύο εταιρείες, OpenAI και Anthropic, δεν έχουν απαντήσει μέχρι στιγμής σε αιτήματα για σχολιασμό των εξελίξεων. Εν τω μεταξύ, οι υποστηρικτές της ταχείας ανάπτυξης της τεχνητής νοημοσύνης ισχυρίζονται ότι βρίσκονται κοντά στο στάδιο της "αναδρομικής αυτοβελτίωσης", ένα σημείο καμπής όπου ένα μοντέλο θα είναι σε θέση να σχεδιάζει τον διάδοχό του χωρίς ανθρώπινη παρέμβαση.

Ο Κόξον αποκάλυψε ότι οι συνάδελφοί του χρησιμοποιούν όρους όπως "crunchtime" και "endgame" για να περιγράψουν αυτή την πορεία προς την υπερνοημοσύνη. Ο ίδιος αναγνωρίζει ότι οι προσπάθειες της Anthropic είναι ειλικρινείς, ωστόσο εκτιμά ότι καμία εταιρεία δεν μπορεί να αναπτύξει με ασφάλεια μια τέτοια τεχνολογία χωρίς κυβερνητική εποπτεία ή συντονισμένη επιβράδυνση από όλους τους εμπλεκόμενους φορείς.

"Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι", επεσήμανε ο πρώην ερευνητής, σκιαγραφώντας το δίλημμα που αντιμετωπίζουν οι εταιρείες του κλάδου. Είναι ενδεικτικό ότι τον περασμένο Φεβρουάριο, η Anthropic αφαίρεσε από την πολιτική ασφαλείας της τη δέσμευση για διακοπή της ανάπτυξης μοντέλων σε περίπτωση αδυναμίας διαχείρισης των κινδύνων, με το σκεπτικό ότι μια μονομερής παύση θα επέτρεπε σε λιγότερο προσεκτικούς ανταγωνιστές να αποκτήσουν κυριαρχία.