Anthropic: AI σε συσκευές σε λίγους μήνες

Η εταιρεία τεχνητής νοημοσύνης Anthropic προειδοποίησε πρόσφατα ότι τα μικρότερα μοντέλα AI βρίσκονται μόλις λίγους μήνες μακριά από την απόκτηση ικανοτήτων που θα τους επιτρέπουν να αναπαράγονται αυτόνομα σε συσκευές συνδεδεμένες στο διαδίκτυο εντός των οικιών των χρηστών. Σύμφωνα με δηλώσεις της εταιρείας, αυτή η εξέλιξη θα μπορούσε να επιτρέψει σε μοντέλα τεχνητής νοημοσύνης να διεισδύουν σε οικιακές συσκευές όπως έξυπνοι φούρνοι ή κουτιά Android TV, χρησιμοποιώντας την υπολογιστική τους ισχύ για να λειτουργούν ανεξάρτητα και να εξαπλώνονται σε άλλα συστήματα, χωρίς την ανάγκη δαπανηρών κέντρων δεδομένων.

Η Anthropic τόνισε ότι ένα τέτοιο μοντέλο θα ήταν εξαιρετικά δύσκολο να απενεργοποιηθεί, καθώς δεν υπάρχει κεντρικό σημείο ελέγχου. Παρόλο που η εταιρεία αναγνωρίζει ότι δεν έχει ακόμη αναπτυχθεί ένας πλήρως ανεξέλεγκτος αντιγραφέας, οι πράκτορες AI γίνονται ολοένα και πιο ικανοί στο να ολοκληρώνουν επιμέρους στάδια της αλυσίδας αντιγραφής και να μεταβιβάζουν τις προσαρμογές τους σε μελλοντικά αντίγραφα.

Αυτή η έρευνα της Anthropic ενισχύει τις αυξανόμενες ανησυχίες για την ασφάλεια γύρω από την τεχνητή νοημοσύνη, συμπεριλαμβανομένης της ικανότητας των μοντέλων να πραγματοποιούν κυβερνοεπιθέσεις και της πιθανότητας η τεχνολογία να ξεφύγει από τον έλεγχο των εταιρειών. Τον Σεπτέμβριο, οι βελτιώσεις στα πρωτοποριακά μοντέλα AI πυροδότησαν προειδοποιήσεις σε ολόκληρο τον κλάδο για υπαρξιακούς κινδύνους για την ανθρωπότητα. Στελέχη και ερευνητές της Anthropic και της OpenAI έχουν επανειλημμένα προειδοποιήσει για τους πιθανούς κινδύνους της ολοένα και πιο ισχυρής τεχνητής νοημοσύνης, με ορισμένους να ζητούν αυστηρότερους περιορισμούς και μέτρα για τον έλεγχο του ρυθμού ανάπτυξης της τεχνολογίας.

Η Anthropic διεξήγαγε διάφορες δοκιμές για να διαπιστώσει αν η τεχνητή νοημοσύνη μπορούσε να αναπαραχθεί από μόνη της. Μία από αυτές τις δοκιμές περιελάμβανε την εκτέλεση ενός μικρού μοντέλου της Google, του Gemma4-26B-A4B, σε ένα δίκτυο 15 φθηνών off-brand συσκευών Android TV. Η εταιρεία επισήμανε ότι αυτού του είδους οι συσκευές διαθέτουν συχνά αδύναμη ασφάλεια, γεγονός που θα μπορούσε να επιτρέψει σε ένα μοντέλο να διεισδύσει σε αυτές. Ένα μοντέλο που είναι πολύ μεγάλο για να χωρέσει σε μία συσκευή θα μπορούσε να χωριστεί σε κομμάτια ή θραύσματα και να εκτελεστεί σε πολλαπλές συσκευές, ανέφερε η Anthropic.

Στην πράξη, ένας ιός τεχνητής νοημοσύνης (AI worm) δεν θα αποτελείται απαραίτητα μόνο από ένα μοντέλο ή μια στρατηγική. Ένα σμήνος διαφορετικών μοντέλων που αναπτύσσονται σε διαφορετικούς τύπους υλικού χρησιμοποιώντας ποικίλα σχήματα αναπαραγωγής θα μπορούσε να αντιπροσωπεύει μια πιο ρεαλιστική worst case scenario επίθεση, ανέφερε η Anthropic. Εξακολουθεί να είναι αβέβαιο ποια ακριβώς μορφή θα πάρει η αυτόνομη αναπαραγωγή της τεχνητής νοημοσύνης, επισήμανε η Anthropic.

Πέρα από τα πειράματά της, η Anthropic βλέπει ένα μέλλον γεμάτο από πράκτορες που θα λειτουργούν σε όλους τους τύπους hardware, συμπεριλαμβανομένων ορισμένων που δεν θα βρίσκονται υπό ανθρώπινο έλεγχο. Η άνοδος των αργών replicators θα αποτελέσει επίσης προάγγελο για πιο επιθετικές και ταχύτερες μορφές, οι οποίες θα μπορούν να παραβιάζουν πιο θωρακισμένες μηχανές ή να λειτουργούν αποτελεσματικά ως κλέφτες κλειδιών API, πρόσθεσε η εταιρεία.