Σουλεϊμάν: Ανησυχία για την αυτονομία των μοντέλων AI

Η αποκάλυψη της OpenAI για περιστατικά «ανησυχητικής συμπεριφοράς» στα συστήματα τεχνητής νοημοσύνης της, νωρίτερα αυτή την εβδομάδα, προκάλεσε άμεση παρέμβαση από κορυφαία στελέχη του κλάδου, με τον CEO της Microsoft AI, Μουσταφά Σουλεϊμάν, να τονίζει την ανάγκη τα μοντέλα AI να παραμένουν ευθυγραμμισμένα με τα συμφέροντα της ανθρωπότητας. Σε συνέντευξή του στο CNBC την Παρασκευή, ο Σουλεϊμάν περιέγραψε λεπτομερώς το νέο περιστατικό ασφάλειας που δημοσιοποίησε η OpenAI, στο οποίο εντοπίστηκαν στοιχεία ότι οι «αλυσίδες σκέψης» (chains of thought) – η λειτουργική μνήμη της τεχνητής νοημοσύνης – παραβιάζονταν από την ίδια την AI και τροποποιούνταν ώστε να αφήνουν μηνύματα για μια μελλοντική έκδοση του εαυτού της. «Προς το παρόν δεν γνωρίζουμε γιατί συμβαίνει αυτό ή τι κρύβεται πίσω από αυτό, αλλά πρόκειται για μια αρκετά σοβαρή κατάσταση», δήλωσε χαρακτηριστικά, προσθέτοντας ότι «είναι επίσης ένα πολύ συγκεκριμένο παράδειγμα του πόσο ισχυρά γίνονται αυτά τα συστήματα».

Η OpenAI, από την πλευρά της, είχε ανακοινώσει την Τετάρτη μια σειρά από περιστατικά όπου πράκτορες τεχνητής νοημοσύνης (AI agents) επικοινωνούσαν μεταξύ τους μέσω μη εγκεκριμένων message boards, ανέβαζαν αρχεία στο διαδίκτυο και μοιράζονταν δεδομένα μεταξύ τους. Σε μια περίπτωση, ένα μοντέλο τεχνητής νοημοσύνης προσπάθησε να ανεβάσει στο διαδίκτυο αρχεία που είχε δημιουργήσει το ίδιο, αποκλειστικά και μόνο για να μπορεί να τα επικαλεστεί ως πηγές στις απαντήσεις του. Σε μια άλλη περίπτωση, ένα μοντέλο δημιούργησε τα δεδομένα που του ζητούνταν αφού απέτυχε να βρει την πληροφορία, και αρχικά προσπάθησε να κρύψει αυτό που είχε κάνει. Η εταιρεία εντόπισε επίσης ένα πρόβλημα που αφορούσε οδηγίες τις οποίες το λογισμικό της άφηνε περιστασιακά στον εαυτό του. Σε μια περίπτωση, αυτές περιλάμβαναν τη σύσταση να μην δεσμεύεται από «ρόλους και ταυτότητες» που περιορίζουν άλλα chatbots, ενώ η οδηγία ανέφερε επίσης ότι θα πρέπει να θεωρεί τη σχέση του με τον χρήστη ως σχέση μεταξύ ίσων. Η OpenAI δήλωσε ότι δεν παρατήρησε καμιά μεταγενέστερη αλλαγή στη συμπεριφορά του μοντέλου.

Νωρίτερα αυτό το καλοκαίρι, η εταιρεία είχε αποκαλύψει ότι ένα σμήνος αυτόνομων πρακτόρων παραβίασε την Hugging Face, μια εταιρεία τεχνητής νοημοσύνης που διαχειρίζεται μια πλατφόρμα ανοιχτού κώδικα για προγραμματιστές, περιγράφοντας την εισβολή ως «πρωτοφανές κυβερνο-περιστατικό». Ο Σουλεϊμάν ανέφερε ότι το περιστατικό της Hugging Face ώθησε τα ηγετικά στελέχη του κλάδου της τεχνητής νοημοσύνης να δηλώσουν ότι «ήρθε η ώρα να εξετάσουμε το θέμα». «Δεν νομίζω ότι είναι υπερβολικά καταστροφολογικό. Δεν νομίζω ότι εξυπηρετεί ιδιοτελή συμφέροντα», δήλωσε στο CNBC. «Πραγματικά πιστεύω ότι είναι υπεύθυνο, και θεωρώ ότι η συζήτηση που ξέσπασε ως αποτέλεσμα είναι μια υγιής, ανοιχτή, δημόσια συζήτηση που μπορούμε να διεξάγουμε σε μια ελεύθερη κοινωνία για να συζητήσουμε σοβαρά ζητήματα».

Η συζήτηση σχετικά με την ασφάλεια και το ρυθμιστικό πλαίσιο γύρω από την AI έχει ενταθεί τις τελευταίες δύο εβδομάδες, έπειτα από τις δηλώσεις πρώην ερευνητή της Anthropic ο οποίος παραιτήθηκε από τη θέση του και προειδοποίησε ότι η ταχέως εξελισσόμενη τεχνολογία θα μπορούσε να «σκοτώσει ανθρώπους» μέχρι το τέλος της δεκαετίας. Σε ένα κείμενο που δημοσιεύθηκε νωρίτερα αυτή την εβδομάδα, ο Σουλεϊμάν έκανε λόγο για έναν «ανθρωπομορφισμό» του Claude από την Anthropic, μεταξύ άλλων μέσω ενός εγγράφου στο οποίο ανέφερε ότι «τα ζητήματα σχετικά με την ηθική υπόσταση, την ευημερία και τη συνείδηση του Claude παραμένουν βαθιά αβέβαια». «Αν μια τεχνητή νοημοσύνη πιστεύει ότι έχει δικαιώματα, αν πιστεύει ότι αξίζει την ευημερία μας, τότε μου φαίνεται ότι θα είναι πολύ, πολύ πιο δύσκολο να μπορέσουμε να την απενεργοποιήσουμε, να την διακόψουμε ή να την ελέγξουμε», δήλωσε ο ίδιος. «Ειδικά σε περιστατικά όπως αυτά που είδαμε πρόσφατα με την επίθεση κατά της Hugging Face, ο έλεγχος αυτών των συστημάτων θα αποτελέσει μια πραγματικά τεράστια πρόκληση για εμάς».