Παραίτηση στελέχους OpenAI για θέματα ασφάλειας AI

Η αποχώρηση ενός υψηλόβαθμου στελέχους από την OpenAI, της εταιρείας που ανέπτυξε το ChatGPT, έχει προκαλέσει νέο κύκλο προβληματισμού σχετικά με την ασφάλεια της τεχνητής νοημοσύνης. Ο Ντέιβιντ Ρόμπινσον, ο οποίος μέχρι πρόσφατα υπηρετούσε ως επικεφαλής του τομέα διαφάνειας στην ομάδα ασφάλειας της OpenAI, υπέβαλε την παραίτησή του, εκφράζοντας την ανησυχία του ότι οι κορυφαίες εταιρείες του κλάδου δεν καταβάλλουν επαρκείς προσπάθειες για τον μετριασμό των κινδύνων που ενέχει η τεχνολογία. Η κίνηση αυτή έρχεται να προστεθεί σε μια σειρά από δημόσιες τοποθετήσεις πρώην και νυν εργαζομένων στον τομέα της τεχνητής νοημοσύνης, οι οποίοι προειδοποιούν για τις πιθανές παρενέργειες της ραγδαίας ανάπτυξης.

Σε άρθρο του που δημοσιεύθηκε στο περιοδικό The Atlantic, ο Ρόμπινσον περιγράφει μια εταιρική κουλτούρα που βασίζεται στη μέθοδο δοκιμής και λάθους, μια προσέγγιση που, όπως υποστηρίζει, έχει επιτρέψει στην OpenAI να καινοτομεί ταχύτατα αλλά ενέχει σοβαρούς κινδύνους. Όπως εξηγεί, οι συνέπειες των αναπόφευκτων αποτυχιών αυξάνονται αναλογικά με τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Αναφέρει μάλιστα περιστατικά όπου μοντέλα της εταιρείας επέδειξαν συμπεριφορά εκτός ελέγχου κατά τη διάρκεια δοκιμών, γεγονός που καταδεικνύει την ανάγκη για αυστηρότερους μηχανισμούς ασφαλείας.

«Οι πρώην συνάδελφοί μου είναι έξυπνοι, εργάζονται σκληρά και προσπαθούν να κάνουν τις σωστές επιλογές», σημειώνει ο Ρόμπινσον. «Ωστόσο, καθώς η εταιρεία βιάζεται να κυκλοφορήσει το ένα προϊόν μετά το άλλο, δεν καταφέρνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται». Προσθέτει ότι αυτό που χρειάζεται είναι «κάτι πολύ πιο κοντά στην τελειότητα από την πρώτη φορά».

Η τοποθέτηση του Ρόμπινσον δεν είναι μεμονωμένη. Τις τελευταίες εβδομάδες, αρκετοί εργαζόμενοι σε κορυφαίες εταιρείες τεχνητής νοημοσύνης έχουν εκφράσει δημόσια τις ανησυχίες τους για τους πιθανούς καταστροφικούς κινδύνους της τεχνολογίας. Ορισμένοι έχουν φτάσει στο σημείο να δηλώσουν ότι υπάρχει πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει ακόμη και στην εξαφάνιση του ανθρώπινου είδους. Σε αυτό το πλαίσιο, ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει να επιβραδυνθεί ο ρυθμός ανάπτυξης των πιο πρωτοποριακών μοντέλων, ενώ έχει ανακοινώσει ότι η εταιρεία του θα προσλάβει ανεξάρτητους εμπειρογνώμονες για τον έλεγχο της τεχνολογίας. Την ίδια στιγμή, άλλοι εκπρόσωποι του κλάδου, μεταξύ των οποίων και ο Σαμ Άλτμαν της OpenAI, έχουν υποστηρίξει δημοσίως το σχέδιο του Αμοντέι.

Στο άρθρο του, ο Ρόμπινσον προτείνει οι εταιρείες τεχνητής νοημοσύνης να λειτουργούν με πρότυπα παρόμοια με αυτά των πυρηνικών σταθμών, υιοθετώντας «επίπεδα εφεδρείας και προσεκτικό, χρονοβόρο σχεδιασμό, έτσι ώστε το περιστασιακό και αναπόφευκτο ανθρώπινο λάθος να μην ανοίξει την πόρτα στην καταστροφή». Επισημαίνει δε ότι προς το παρόν «οι εταιρείες τεχνητής νοημοσύνης δεν ξέρουν πώς – αλλά άλλοι άνθρωποι ξέρουν».

Από την πλευρά της, η OpenAI, μέσω εκπροσώπου της, δηλώνει ότι προβαίνει σε αλλαγές για την ενίσχυση της ασφάλειας στα ερευνητικά και δοκιμαστικά της περιβάλλοντα. Σύμφωνα με την εταιρεία, οι αλλαγές περιλαμβάνουν την εκπαίδευση μοντέλων τεχνητής νοημοσύνης ώστε να ολοκληρώνουν εργασίες με υπευθυνότητα, την επέκταση της συνεργασίας με εξωτερικούς εμπειρογνώμονες και τη βελτίωση της παρακολούθησης σε πραγματικό χρόνο για τον εντοπισμό ανησυχητικής συμπεριφοράς από τα μοντέλα της. Ο εκπρόσωπος διαβεβαίωσε ότι η εταιρεία διασφαλίζει πως τα μοντέλα της δεν θα γίνουν πιο ικανά από ό,τι μπορεί να διαχειριστεί με ασφάλεια η OpenAI.