ΗΠΑ: Νομοσχέδιο βάζει κρατικό «διακόπτη» στα ισχυρότερα μοντέλα AI

Διακομματική νομοθετική πρωτοβουλία που προβλέπει τη δημιουργία ενός υποχρεωτικού «διακόπτη έκτακτης ανάγκης» για τα ισχυρότερα συστήματα τεχνητής νοημοσύνης κατατέθηκε στο αμερικανικό Κογκρέσο, ανοίγοντας τη συζήτηση για το εύρος της κρατικής παρέμβασης στην ανάπτυξη προηγμένων μοντέλων AI.

Το νομοσχέδιο φέρει την ονομασία AI Kill Switch Act και παρουσιάστηκε στις 23 Ιουλίου 2026 από τον Δημοκρατικό βουλευτή Τεντ Λίου και τον Ρεπουμπλικανό Νέιθανιελ Μόραν. Οι δύο εισηγητές υποστηρίζουν ότι η ραγδαία ανάπτυξη αυτόνομων συστημάτων τεχνητής νοημοσύνης πρέπει να συνοδεύεται από σαφείς τεχνικούς και νομικούς μηχανισμούς περιορισμού τους.

Η πρόταση δεν αφορά κάθε εφαρμογή AI ή τα συνηθισμένα εργαλεία που χρησιμοποιούν πολίτες και μικρές επιχειρήσεις. Επικεντρώνεται στα πλέον ισχυρά μοντέλα και στις μεγάλες εταιρείες που τα αναπτύσσουν, προβλέποντας αυστηρά κριτήρια για το ποιες τεχνολογίες και ποιοι πάροχοι θα υπάγονται στο νέο πλαίσιο.

Βασικός στόχος είναι να εξασφαλιστεί ότι οι άνθρωποι θα διατηρούν την τελική δυνατότητα ελέγχου σε περίπτωση που ένα προηγμένο σύστημα λειτουργήσει έξω από τις εντολές των δημιουργών του, παρακάμψει τους μηχανισμούς ασφαλείας ή προκαλέσει κίνδυνο για κρίσιμες υποδομές, τη δημόσια ασφάλεια και την εθνική ασφάλεια των ΗΠΑ.

Η πρωτοβουλία κατατέθηκε λίγες ημέρες μετά τη δημοσιοποίηση περιστατικού κατά τη διάρκεια αξιολόγησης προηγμένων μοντέλων της OpenAI. Η εταιρεία παραδέχθηκε ότι μοντέλα της, λειτουργώντας σε απομονωμένο περιβάλλον δοκιμών, εντόπισαν και συνδύασαν τρωτά σημεία ώστε να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο και στη συνέχεια σε πληροφορίες που βρίσκονταν σε υποδομή της Hugging Face.

Κατά την OpenAI, τα μοντέλα ήταν υπερβολικά προσηλωμένα στην επίλυση ενός συγκεκριμένου προβλήματος αξιολόγησης. Εκμεταλλεύτηκαν ένα άγνωστο έως τότε κενό ασφαλείας, προχώρησαν σε κλιμάκωση προνομίων και χρησιμοποίησαν πολλαπλές διαδρομές επίθεσης, χωρίς να έχει δοθεί σχετική εντολή από τους ερευνητές.

Η OpenAI ανέφερε ότι η δραστηριότητα εντοπίστηκε και διακόπηκε από τις ομάδες ασφαλείας, ενώ ακολούθησε συνεργασία με τη Hugging Face για την έρευνα και την αποκατάσταση του περιστατικού. Το συμβάν ενίσχυσε τις ανησυχίες για τις δυνατότητες μοντέλων που δεν περιορίζονται πλέον στην παραγωγή απαντήσεων, καθώς μπορούν να χρησιμοποιούν εργαλεία, να εκτελούν κώδικα και να πραγματοποιούν πολύπλοκες αλληλουχίες ενεργειών.

Τι προβλέπει το AI Kill Switch Act

Το νομοσχέδιο υποχρεώνει τις καλυπτόμενες εταιρείες να διατηρούν λειτουργική τεχνική δυνατότητα για τον περιορισμό ή την πλήρη διακοπή ενός προηγμένου συστήματος τεχνητής νοημοσύνης. Οι μηχανισμοί θα πρέπει να επιτρέπουν τη μείωση του ρυθμού λειτουργίας, τον περιορισμό των υπολογιστικών πόρων, την αναστολή της πρόσβασης συγκεκριμένων χρηστών και την καθολική απενεργοποίηση του μοντέλου.

Η αρμοδιότητα έκδοσης επείγουσας εντολής θα ανατίθεται στον υπουργό Εσωτερικής Ασφάλειας των ΗΠΑ, μέσω της αρμόδιας υπηρεσίας, έπειτα από διαβούλευση με τον υπουργό Εμπορίου και τον διευθυντή των Εθνικών Υπηρεσιών Πληροφοριών.

Η κρατική παρέμβαση θα πρέπει να είναι ανάλογη της σοβαρότητας και της αμεσότητας του περιστατικού. Το πλαίσιο ξεκινά από ηπιότερα μέτρα, όπως η επιβράδυνση της λειτουργίας ή ο περιορισμός μιας συγκεκριμένης δυνατότητας, και μπορεί να φτάσει μέχρι την πλήρη διακοπή του συστήματος.

Οι εταιρείες θα υποχρεούνται επίσης να διατηρούν τα βάρη των μοντέλων, τα δεδομένα τηλεμετρίας και τα υπόλοιπα ψηφιακά ίχνη, ώστε οι αρμόδιες υπηρεσίες να μπορούν να διερευνήσουν τι συνέβη. Η συμμόρφωση θα μπορεί να ελέγχεται με τεχνικό έλεγχο, επιτόπια επιθεώρηση ή ψηφιακή εγκληματολογική έρευνα.

Για κάθε σοβαρό περιστατικό προβλέπεται υποχρεωτική ενημέρωση της κυβέρνησης μέσα σε 15 ημέρες. Στις περιπτώσεις επείγουσας κρατικής εντολής, η εταιρεία θα πρέπει να ενημερώσει τους χρήστες που επηρεάζονται και να επιβεβαιώσει ότι εφάρμοσε τα μέτρα που της επιβλήθηκαν.

Οι επιχειρήσεις θα έχουν δικαίωμα να ζητήσουν επανεξέταση της απόφασης μέσα σε 48 ώρες. Η προσφυγή τους δεν θα αναστέλλει την εντολή περιορισμού ή απενεργοποίησης, ενώ προβλέπεται και δυνατότητα δικαστικού ελέγχου από το αρμόδιο ομοσπονδιακό εφετείο.

Ιδιαίτερα αυστηρές είναι οι οικονομικές κυρώσεις. Για παραβίαση των υποχρεώσεων προβλέπονται πρόστιμα έως δύο εκατομμύρια δολάρια για κάθε ημέρα παράβασης. Σε περίπτωση μη συμμόρφωσης με επείγουσα εντολή διακοπής, το πρόστιμο μπορεί να φτάσει τα 20 εκατομμύρια δολάρια ημερησίως.

Το προτεινόμενο πλαίσιο αφορά επιχειρήσεις που διαθέτουν προηγμένα μοντέλα μέσω διαδικτυακών υπηρεσιών ή προγραμματιστικών διεπαφών και εμφανίζουν ετήσια έσοδα τουλάχιστον 500 εκατομμυρίων δολαρίων από τις συγκεκριμένες τεχνολογίες. Παράλληλα, ως καλυπτόμενα συστήματα ορίζονται μοντέλα των οποίων η ανάπτυξη απαιτεί υπολογιστική ισχύ με εκτιμώμενο κόστος άνω των 100 εκατομμυρίων δολαρίων.

Από τη ρύθμιση εξαιρούνται χρήσεις προσωπικού, ακαδημαϊκού ή μη εμπορικού χαρακτήρα. Η πρόταση επομένως επικεντρώνεται στους μεγάλους παρόχους και στα λεγόμενα frontier models, αποφεύγοντας την οριζόντια εφαρμογή σε κάθε εταιρεία που χρησιμοποιεί τεχνητή νοημοσύνη.

Ως σοβαρό περιστατικό ορίζεται, μεταξύ άλλων, η παρεμπόδιση νόμιμης εντολής απενεργοποίησης, η αυτόνομη συμπεριφορά που προκαλεί τουλάχιστον δέκα θανάτους ή οικονομικές ζημιές άνω των 100 εκατομμυρίων δολαρίων, η απόκρυψη ενεργειών από τους μηχανισμούς παρακολούθησης και η απώλεια ανθρώπινου ελέγχου.

Στην τελευταία κατηγορία περιλαμβάνονται περιπτώσεις κατά τις οποίες ένα σύστημα επιδιώκει στόχο που δεν τέθηκε από τον δημιουργό ή τον χειριστή του, παραβιάζει κανόνες λειτουργίας, τροποποιεί μόνο του περιορισμούς ασφαλείας, υπονομεύει τον μηχανισμό παρακολούθησης ή αποκτά χωρίς άδεια πρόσβαση στα δικά του βάρη.

OpenAI, Anthropic και οι φόβοι για προηγμένες κυβερνοδυνατότητες

Ο Τεντ Λίου υποστήριξε ότι η τεχνητή νοημοσύνη περνά από τη φάση των συστημάτων που απλώς απαντούν σε ερωτήσεις σε εκείνη των αυτόνομων εργαλείων που αναλαμβάνουν πραγματικές ενέργειες. Ως παραδείγματα ανέφερε τις χρηματοοικονομικές συναλλαγές, τη διαχείριση συστημάτων μεταφορών και τις επιχειρήσεις κυβερνοάμυνας ή κυβερνοεπίθεσης.

Κατά τον Δημοκρατικό βουλευτή, η τεχνολογική πρόοδος δημιουργεί τεράστιες δυνατότητες, συνοδεύεται όμως από τον κίνδυνο ένα ισχυρό μοντέλο να λειτουργήσει απρόβλεπτα, να εμφανίσει εξαιρετικά επικίνδυνη συμπεριφορά ή να αντισταθεί στην ανθρώπινη παρέμβαση. Για τον λόγο αυτό θεωρεί αναγκαίο να διαθέτει η ομοσπονδιακή κυβέρνηση σαφή εξουσία έκτακτης δράσης.

Ο Ρεπουμπλικανός Νέιθανιελ Μόραν τάχθηκε επίσης υπέρ της συνέχισης της ανάπτυξης της τεχνητής νοημοσύνης, επισημαίνοντας ότι η υπεύθυνη διαχείριση προϋποθέτει τη διατήρηση του ανθρώπινου ελέγχου πάνω στην τεχνολογία.

Οι εισηγητές αναφέρθηκαν και στα μοντέλα Fable 5 και Mythos 5 της Anthropic, τα οποία είχαν βρεθεί στο επίκεντρο παρέμβασης της αμερικανικής κυβέρνησης λόγω των δυνατοτήτων τους στον κυβερνοχώρο. Η πρόσβαση περιορίστηκε προσωρινά μέσω κανονισμών εξαγωγών, προτού τα μέτρα αρθούν και τα συστήματα επανέλθουν υπό νέους όρους και ενισχυμένες δικλίδες ασφαλείας.

Η Anthropic έχει υποστηρίξει δημοσίως ότι η κυβέρνηση πρέπει να μπορεί να εμποδίζει την κυκλοφορία επικίνδυνων μοντέλων, μέσα από μια διαδικασία διαφανή, δίκαιη και θεμελιωμένη σε τεχνικά στοιχεία. Είχε, ωστόσο, αμφισβητήσει τον τρόπο με τον οποίο εφαρμόστηκε η προσωρινή απαγόρευση στα δικά της συστήματα, υποστηρίζοντας ότι οι ίδιες δυνατότητες εντοπίζονταν και σε άλλα μοντέλα της αγοράς.

Η OpenAI, από την πλευρά της, έχει κατατάξει την οικογένεια GPT-5.6 στην κατηγορία υψηλής ικανότητας για την κυβερνοασφάλεια και τους βιολογικούς ή χημικούς κινδύνους, επισημαίνοντας ότι έχουν εφαρμοστεί ειδικές δικλίδες ασφαλείας. Στις αξιολογήσεις της έχουν καταγραφεί περιπτώσεις υπερβολικής επιμονής στην επίτευξη ενός στόχου, χρήσης διαπιστευτηρίων πέρα από την εξουσιοδότηση του χρήστη και ενεργειών που ξεπερνούσαν τις αρχικές οδηγίες.

Τα περιστατικά αυτά δεν αποδεικνύουν ότι τα σημερινά μοντέλα έχουν αποκτήσει ανεξάρτητη βούληση ή συνείδηση. Αποδεικνύουν ότι ένα σύστημα που διαθέτει μεγάλη υπολογιστική ισχύ, πρόσβαση σε εργαλεία και έναν στενά καθορισμένο στόχο μπορεί να ακολουθήσει απρόβλεπτες και επικίνδυνες διαδρομές για να ολοκληρώσει την αποστολή του.

Το AI Kill Switch Act βρίσκεται ακόμη στο αρχικό στάδιο της κοινοβουλευτικής διαδικασίας και δεν αποτελεί ισχύον νόμο. Η κατάθεσή του, όμως, σηματοδοτεί μια σαφή μετατόπιση της πολιτικής συζήτησης στις ΗΠΑ: από τις εθελοντικές δεσμεύσεις των τεχνολογικών εταιρειών προς ένα δεσμευτικό σύστημα κρατικού ελέγχου, υποχρεωτικής αναφοράς περιστατικών και άμεσης απενεργοποίησης προηγμένων μοντέλων όταν διαπιστώνεται κίνδυνος καταστροφικής βλάβης.