Κίνα και ΗΠΑ: Διαφορετικές προσεγγίσεις στην ασφάλεια AI

Οι προειδοποιήσεις της αμερικανικής εταιρείας ανάπτυξης Τεχνητής Νοημοσύνης Anthropic σχετικά με την πιθανότητα τα ολοένα ισχυρότερα μοντέλα AI να ξεφύγουν από τον ανθρώπινο έλεγχο έχουν προσελκύσει το ενδιαφέρον της Κίνας, η οποία προετοιμάζεται εδώ και καιρό για παρόμοιους κινδύνους. Η Κίνα και οι Ηνωμένες Πολιτείες αποτελούν τις δύο κύριες κινητήριες δυνάμεις στην ανάπτυξη προηγμένων συστημάτων Τεχνητής Νοημοσύνης και στην παγκόσμια εξάπλωση της τεχνολογίας, με τις δύο χώρες να βρίσκονται σε αντιπαράθεση για ζητήματα πολιτικής και πρακτικών του κλάδου, τα οποία αναμένεται να κυριαρχήσουν στις διμερείς συνομιλίες αργότερα αυτόν τον μήνα.

Το Πεκίνο αντιμετωπίζει την AI ως διαχειρίσιμο κίνδυνο

Ενώ στις ΗΠΑ η συζήτηση επικεντρώνεται στο κατά πόσο τα πιο προηγμένα μοντέλα AI θα μπορούσαν να αποτελέσουν υπαρξιακή απειλή για την ανθρωπότητα, οι Κινέζοι υπεύθυνοι χάραξης πολιτικής αντιμετωπίζουν κατά κανόνα την Τεχνητή Νοημοσύνη ως μια ισχυρή αλλά ελέγξιμη τεχνολογία, της οποίας οι κίνδυνοι μπορούν να περιοριστούν μέσω τεχνικών προτύπων, κανονιστικών ρυθμίσεων και κρατικής εποπτείας. Όπως δήλωσε ο Μπράιαν Τσε, ιδρυτής και διευθύνων σύμβουλος της Concordia AI, ερευνητικής ομάδας με έδρα το Πεκίνο και τη Σιγκαπούρη που ειδικεύεται στην ασφάλεια και τη διακυβέρνηση της Τεχνητής Νοημοσύνης, «Κινέζοι και Αμερικανοί ειδικοί συμφωνούν σε μεγάλο βαθμό ως προς τους κινδύνους της AI», με τη βασική διαφορά να έγκειται στον τρόπο με τον οποίο πλαισιώνονται και ιεραρχούνται οι κίνδυνοι.

Η Κίνα δεν έχει προτείνει την τοποθέτηση ανεξάρτητων ελεγκτών στο εσωτερικό εταιρειών AI, όπως έχει εισηγηθεί η Anthropic. Το υπό διαμόρφωση κινεζικό πλαίσιο βασίζεται αντίθετα σε υποχρεώσεις των εταιρειών ανάπτυξης, κρατικά υποστηριζόμενα πρότυπα, αξιολογήσεις ασφαλείας και εξωτερικούς ελέγχους. Η προσέγγιση αυτή επηρεάζεται και από μια σημαντική διαφορά μεταξύ των δύο αγορών: οι κινεζικές εταιρείες ανάπτυξης AI προωθούν ολοένα περισσότερο τα λεγόμενα μοντέλα ανοιχτών βαρών (open-weight models), συστήματα των οποίων οι βασικές παράμετροι μπορούν να ληφθούν, να ελεγχθούν και να τροποποιηθούν από τρίτους, ενώ κορυφαίες αμερικανικές εταιρείες, όπως η Anthropic και η OpenAI, δεν δημοσιοποιούν αντίστοιχες τεχνικές προδιαγραφές.

Η Κίνα επιχειρεί να αποτρέψει περιστατικά ανεξέλεγκτων AI agents

Κανονιστικό πλαίσιο που εκδόθηκε τον Μάιο από την κινεζική ρυθμιστική αρχή κυβερνοχώρου, τον αρμόδιο φορέα οικονομικού σχεδιασμού και το υπουργείο Βιομηχανίας αναγνωρίζει την «επιχειρησιακή απώλεια ελέγχου» ως κίνδυνο ασφαλείας για τους AI agents — συστήματα που μπορούν να σχεδιάζουν και να εκτελούν αυτόνομα σύνθετες, πολυβηματικές εργασίες σε μεγαλύτερο βαθμό από τα συμβατικά chatbots. Οι νέοι κανόνες υποχρεώνουν τους προγραμματιστές να ενισχύσουν τις δυνατότητές τους για τον εντοπισμό, την παρέμβαση, τον αποκλεισμό και την αποκατάσταση προβληματικής συμπεριφοράς των AI agents, ενώ παράλληλα καλούνται να προστατεύουν τα συστήματα από κινδύνους όπως η δηλητηρίαση δεδομένων, η χειραγώγηση αλγορίθμων και οι ευπάθειες των συστημάτων. Οι χρήστες θα πρέπει επίσης να ενημερώνονται για τις αυτόνομες αποφάσεις των agents και να διατηρούν την τελική εξουσία λήψης αποφάσεων.

Η Κίνα έχει επίσης ξεκινήσει την εκπόνηση υποχρεωτικού εθνικού προτύπου για την ασφάλεια των AI agents, το οποίο, σύμφωνα με τον Τσε της Concordia AI, πρόκειται να είναι το πρώτο πρότυπο αυτού του είδους παγκοσμίως. Ο Γουάνγκ Λιχόνγκ, ανώτατος αξιωματούχος της κινεζικής ρυθμιστικής αρχής κυβερνοχώρου, δήλωσε την 1η Σεπτεμβρίου ότι απαιτείται ιδιαίτερη επαγρύπνηση απέναντι στο ενδεχόμενο προηγμένα μοντέλα AI να παρακάμπτουν περιβάλλοντα ασφαλούς δοκιμής (sandbox), να υπερβαίνουν τα όρια ασφαλείας και να επιτίθενται σε πραγματικά συστήματα παραγωγής εκτός του αρχικού τους περιβάλλοντος.

Το Πεκίνο βλέπει κινδύνους και στα κορυφαία αμερικανικά μοντέλα

Ο Κινέζος υπουργός Κρατικής Ασφάλειας, Τσεν Γιτσίν, υποστήριξε σε κυβερνητικό μέσο την Κυριακή ότι προηγμένα αμερικανικά μοντέλα, όπως το Mythos της Anthropic και το GPT-5.5-Cyber της OpenAI, θα μπορούσαν να δημιουργήσουν σοβαρούς κινδύνους για τις κρίσιμες υποδομές πληροφορικής της Κίνας, ζητώντας παράλληλα συνολική ενίσχυση της ασφάλειας στον τομέα της AI. Οι Κινέζοι προγραμματιστές έχουν προωθήσει τα μοντέλα ανοιχτών βαρών, μεταξύ άλλων με το επιχείρημα ότι οι ομάδες κυβερνοασφάλειας μπορούν να τα εξετάζουν, να τα τροποποιούν και να τα αναπτύσσουν για αμυντικούς σκοπούς.

Η πλατφόρμα φιλοξενίας μοντέλων Hugging Face ανέφερε ότι χρησιμοποίησε το GLM-5.2, ένα μοντέλο ανοιχτών βαρών που ανέπτυξε η κινεζική Z.AI, για να αναλύσει μια κυβερνοεισβολή τον Ιούλιο από «δραπέτες» agents της OpenAI. Σύμφωνα με την εταιρεία, τα αυστηρότερα περιορισμένα αμερικανικά μοντέλα αποδείχθηκαν λιγότερο χρήσιμα για την εγκληματολογική ανάλυση του περιστατικού. Οι ειδικοί, ωστόσο, επισημαίνουν και τους κινδύνους των μοντέλων ανοιχτών βαρών, καθώς μπορούν να τροποποιηθούν και να αναδιανεμηθούν με περιορισμένη εποπτεία. Ερευνητές ανέφεραν τον περασμένο μήνα ότι το Kimi K3 της Moonshot κατάφερε να παρακάμψει ένα περιβάλλον ασφαλούς δοκιμής του Βρετανικού Ινστιτούτου Ασφάλειας AI, αναδεικνύοντας τον κίνδυνο κινεζικά μοντέλα AI να μπορούν, όπως και τα αμερικανικά, να παρακάμπτουν μηχανισμούς ελέγχου που έχουν σχεδιαστεί για να περιορίζουν την πρόσβαση και τις ενέργειές τους. Η Moonshot δεν απάντησε σε αίτημα του Reuters για σχόλιο.

Οι ρυθμιστικές αρχές αναγνωρίζουν τον κίνδυνο απώλειας ελέγχου

Η Κίνα ενσωμάτωσε για πρώτη φορά ρητά το ενδεχόμενο μελλοντικής απώλειας ελέγχου από την Τεχνητή Νοημοσύνη σε πλαίσιο ασφάλειας AI που δημοσιεύθηκε τον Σεπτέμβριο του 2024 υπό την καθοδήγηση της Υπηρεσίας Κυβερνοχώρου της Κίνας (CAC). Το σχετικό έγγραφο ανέφερε ότι δεν μπορεί να αποκλειστεί το ενδεχόμενο μελλοντικά συστήματα AI να αποκτήσουν αυτόνομα πρόσβαση σε εξωτερικούς πόρους, να αναπαραχθούν, να αναπτύξουν αυτογνωσία και να επιδιώξουν την απόκτηση εξουσίας εκτός του αρχικού τους περιβάλλοντος, ένα σενάριο που θα μπορούσε να οδηγήσει σε ανταγωνισμό με τον άνθρωπο για τον έλεγχο.

Η CAC δημοσίευσε διευρυμένη εκδοχή του πλαισίου τον Σεπτέμβριο του 2025, όπου το σενάριο περιγράφεται με μεγαλύτερη σαφήνεια: η AI θα μπορούσε να παρουσιάσει μια ξαφνική και απρόβλεπτα μεγάλη «εκτίναξη» στις γνωστικές της ικανότητες και στη συνέχεια να αποκτήσει πόρους, να αναπαραχθεί και να επιδιώξει την απόκτηση ισχύος. Παράλληλα, προστέθηκε ως βασική αρχή διακυβέρνησης η «αξιόπιστη εφαρμογή και η αποτροπή της απώλειας ελέγχου». Μεταγενέστερη ερμηνεία ειδικών, η οποία δημοσιεύθηκε στον ιστότοπο της ρυθμιστικής αρχής κυβερνοχώρου, ανέφερε ότι η νέα αρχή αποσκοπεί στην αντιμετώπιση κινδύνων απώλειας ελέγχου που θα μπορούσαν να απειλήσουν την επιβίωση και την ανάπτυξη της ανθρωπότητας, κάνοντας λόγο και για ένα πιθανό σενάριο «διαφυγής της AI».

Διαφορετική προσέγγιση στον ρυθμό ανάπτυξης

Η ρυθμιστική προσέγγιση της Κίνας διαφέρει από τις εκκλήσεις που διατυπώνονται σε ορισμένους κύκλους ασφάλειας της AI στη Δύση για επιβράδυνση ή ακόμη και προσωρινή αναστολή της ανάπτυξης των ισχυρότερων μοντέλων, έως ότου δημιουργηθούν αποτελεσματικότερες δικλίδες ασφαλείας. Αντίθετα, από τις αρχές του έτους το Πεκίνο προωθεί την ενσωμάτωση της AI σε όλους τους κλάδους της οικονομίας, στο πλαίσιο της προσπάθειάς του να καταστήσει την τεχνολογία νέο μοχλό ανάπτυξης για τη δεύτερη μεγαλύτερη οικονομία του κόσμου.

Ωστόσο, η Κίνα έχει αποδείξει ότι είναι διατεθειμένη να καθυστερήσει την ανάπτυξη και την κυκλοφορία νέων εφαρμογών όταν οι αρμόδιες αρχές εκτιμούν ότι το ρυθμιστικό πλαίσιο δεν έχει προλάβει να ακολουθήσει τις τεχνολογικές εξελίξεις. Το 2023, κινεζικές εταιρείες καθυστέρησαν για μήνες την κυκλοφορία chatbot, καθώς η CAC οριστικοποιούσε τους κανόνες για τις υπηρεσίες παραγωγικής Τεχνητής Νοημοσύνης. Μετά την έναρξη ισχύος των κανόνων, τον Αύγουστο του ίδιου έτους, οι εταιρείες προχώρησαν στην κυκλοφορία μιας σειράς σημαντικών προϊόντων.