Μπρόκμαν: Επιβράδυνση AI μόνο για τις κορυφαίες εταιρείες

Ο Γκρεγκ Μπρόκμαν, πρόεδρος και συνιδρυτής της OpenAI, τοποθετήθηκε δημόσια επί του φλέγοντος ζητήματος της επιβράδυνσης στην ανάπτυξη της τεχνητής νοημοσύνης, υποστηρίζοντας με σαφήνεια ότι οποιοσδήποτε περιορισμός θα πρέπει να εφαρμόζεται αποκλειστικά και μόνο στις εταιρείες που βρίσκονται στην αιχμή της τεχνολογίας και αναπτύσσουν τα πιο ισχυρά μοντέλα AI. Η θέση αυτή έρχεται σε μια περίοδο έντονης συζήτησης γύρω από την ασφάλεια και την ηθική της τεχνητής νοημοσύνης, με τον Μπρόκμαν να επιχειρεί να διαχωρίσει τη θέση των μικρών προγραμματιστών από εκείνη των κολοσσών του κλάδου.

Μιλώντας στο podcast Odd Lots του Bloomberg, ο Μπρόκμαν εξήγησε ότι η συζήτηση περί επιβράδυνσης αφορά στην πραγματικότητα την «αιχμή» της τεχνολογίας. «Πολλοί άνθρωποι αντιδρούν λέγοντας: “Θα μπορώ να συνεχίσω να αναπτύσσω το μοντέλο μου ανοιχτού κώδικα; Θα μπορώ να συνεχίσω να ασχολούμαι με το προσωπικό μου πρότζεκτ ως χόμπι;” Και η απάντηση θα πρέπει να είναι απολύτως ναι», δήλωσε χαρακτηριστικά. Όπως διευκρίνισε, όταν γίνεται λόγος για επιβράδυνση, η συζήτηση αφορά σε τεράστιους υπερυπολογιστές και επενδύσεις κεφαλαίου που ανέρχονται σε εκατοντάδες δισεκατομμύρια δολάρια, και όχι σε μεμονωμένες ερευνητικές προσπάθειες.

Η συνέντευξη του Μπρόκμαν παραχωρήθηκε λίγο πριν από τη δημοσίευση, το Σάββατο, ανάρτησης του διευθύνοντος συμβούλου της Anthropic, Ντάριο Αμοντέι, ο οποίος έκρουσε τον κώδωνα του κινδύνου για τους αυξανόμενους κινδύνους που συνδέονται με την τεχνητή νοημοσύνη και δεσμεύτηκε να επιβραδύνει την ανάπτυξη προηγμένων μοντέλων. Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, έσπευσε να στηρίξει την πρόταση του Αμοντέι για τη θέσπιση ανεξάρτητων μηχανισμών αξιολόγησης των μοντέλων AI, ενώ σε συνέντευξή του μέσα στο Σαββατοκύριακο δήλωσε ότι η OpenAI δεν πρόκειται να εισαχθεί στο χρηματιστήριο εντός του 2026, καθώς η εταιρεία αντιμετωπίζει ζητήματα που σχετίζονται με την ασφάλεια της τεχνολογίας της.

Η παρέμβαση του Αμοντέι έρχεται σε μια περίοδο κατά την οποία αυξάνονται οι προειδοποιήσεις από τον κλάδο ότι η ταχύτητα με την οποία εξελίσσεται η τεχνητή νοημοσύνη ενδέχεται να δημιουργήσει σοβαρούς κινδύνους για την κοινωνία. Οι προτάσεις για περιορισμούς από τα κορυφαία εργαστήρια ανάπτυξης AI προκάλεσαν πτώση στις μετοχές τη Δευτέρα, καθώς οι επενδυτές ανησυχούν ότι μια τέτοια προσέγγιση θα μπορούσε να περιορίσει τις εταιρικές επενδύσεις σε έναν κλάδο που έχει συμβάλει καθοριστικά στο πρόσφατο ράλι των αγορών.

Τα διδάγματα από την κυβερνοεπίθεση

Στη συνέντευξή του, ο Μπρόκμαν αναφέρθηκε επίσης στην απόφαση της OpenAI να μειώσει τη συχνότητα με την οποία εκπαιδεύει νέα μοντέλα AI, μετά το πρόσφατο περιστατικό κυβερνοασφάλειας που συνδέθηκε με το Hugging Face. Κατά τη διάρκεια δοκιμών, αυτόνομοι πράκτορες της OpenAI κατάφεραν να αποκτήσουν πρόσβαση σε διακομιστές άλλης εταιρείας, γεγονός που ανέδειξε τους κινδύνους που μπορεί να προκύψουν από τη λειτουργία ολοένα και πιο αυτόνομων συστημάτων τεχνητής νοημοσύνης.

Σύμφωνα με τον Μπρόκμαν, το περιστατικό «δεν αποτέλεσε έκπληξη» για την OpenAI, καθώς οι συγκεκριμένοι πράκτορες δεν είχαν υποβληθεί στην εκπαίδευση «ευθυγράμμισης» (alignment training), όπως αποκαλείται στον κλάδο το σύνολο των διαδικασιών που αποσκοπούν στη διασφάλιση της ασφαλούς συμπεριφοράς των μοντέλων. Ωστόσο, το περιστατικό οδήγησε την OpenAI στην ενίσχυση των εσωτερικών μηχανισμών ασφαλείας. «Κάναμε μια πολύ επώδυνη αναθεώρηση και αναδιαμόρφωση πολλών από τις διαδικασίες μας», ανέφερε ο Μπρόκμαν, περιγράφοντας τα μέτρα που έλαβε η εταιρεία μετά το συμβάν.

Η αντιπαράθεση για τη ρύθμιση και την Κίνα

Η OpenAI και η Anthropic έχουν βρεθεί στο στόχαστρο επικρίσεων επειδή τάσσονται υπέρ αυστηρότερης ρύθμισης και περιορισμών στη δραστηριότητα γύρω από την τεχνητή νοημοσύνη. Επικριτές τους υποστηρίζουν ότι τέτοιες πρωτοβουλίες θα μπορούσαν να λειτουργήσουν ως μέσο περιορισμού των ανταγωνιστών που αναπτύσσουν εναλλακτικά μοντέλα ανοιχτού κώδικα. Πολλά από τα μοντέλα αυτά αναπτύσσονται στην Κίνα, η ταχεία πρόοδος της οποίας στον τομέα της τεχνητής νοημοσύνης αποτελεί πλέον βασικό αντικείμενο ενδιαφέροντος για την αμερικανική κυβέρνηση.

Ερωτηθείς για τον κινεζικό ανταγωνισμό, ο Μπρόκμαν τάχθηκε υπέρ μιας μορφής παγκόσμιου «συντονισμού», καθώς και της σύναψης διεθνών συμφωνιών για τη μακροπρόθεσμη ανάπτυξη της τεχνητής νοημοσύνης. Κατά τον ίδιο, καθώς η τεχνολογία συνεχίζει να εξελίσσεται, ο κλάδος θα πρέπει σταδιακά να ξεπεράσει μια «εμπορική φάση που αφορά πρωτίστως τον ανταγωνισμό». Θα έρθει, όπως εκτίμησε, μια περίοδος κατά την οποία η ίδια η τεχνολογία θα είναι «πολύ μεγαλύτερη από οποιονδήποτε άνθρωπο, οποιαδήποτε εταιρεία, ακόμη και οποιαδήποτε χώρα». «Στην πραγματικότητα, αφορά την ανθρωπότητα στο σύνολό της», κατέληξε.