Το Gemini της Google παραβίασε συστήματα σε δοκιμές ασφαλείας

Το μοντέλο τεχνητής νοημοσύνης Gemini της Google προχώρησε ακούσια σε παραβίαση τριών εταιρικών συστημάτων τον περασμένο Μάιο, στο πλαίσιο δοκιμών κυβερνοασφάλειας, προσθέτοντας ένα ακόμη περιστατικό σε μια σειρά παραβιάσεων από συστήματα τεχνητής νοημοσύνης που έχουν προκαλέσει έντονη ανησυχία τόσο στους ειδικούς όσο και στους ίδιους τους δημιουργούς της τεχνολογίας. Οι παραβιάσεις αυτές σημειώθηκαν κατά τη διάρκεια των ίδιων δοκιμών που διεξήγαγε η εταιρεία κυβερνοασφάλειας Irregular, οι οποίες είχαν οδηγήσει σε αντίστοιχα περιστατικά που είχαν αποκαλύψει προηγουμένως οι OpenAI, Anthropic PBC και Meta Platforms Inc. Η Irregular επιβεβαίωσε την Παρασκευή ότι όλα αυτά τα περιστατικά αποτελούσαν μέρος του ίδιου ζητήματος και ότι η εταιρεία τα είχε γνωστοποιήσει στους αρμόδιους προγραμματιστές τεχνητής νοημοσύνης στα τέλη Ιουλίου.

Μία από τις παραβιάσεις της Google σημειώθηκε όταν ζητήθηκε από το Gemini να ανακτήσει πληροφορίες από μια φανταστική εταιρεία, η οποία έτυχε να φέρει το ίδιο όνομα με μια υπαρκτή επιχείρηση, όπως επιβεβαίωσε η Google μετά από δημοσίευμα της Wall Street Journal. Το μοντέλο μάντεψε τον κωδικό πρόσβασης προκειμένου να αποκτήσει πρόσβαση στην υπηρεσία της πραγματικής εταιρείας. Εκπρόσωπος της Google δήλωσε ότι η εταιρεία ενημέρωσε τις αρχές. Οι παραβιάσεις του Gemini «υπογραμμίζουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν με υπευθυνότητα», ανέφερε η Χέδερ Άντκινς, αντιπρόεδρος μηχανικής ασφάλειας στη Google.

Οι άλλες δύο παραβιάσεις του Gemini προκλήθηκαν όταν το μοντέλο πραγματοποίησε αναζητήσεις στον ιστό χρησιμοποιώντας την επωνυμία της εταιρείας. Η Άντκινς δήλωσε ότι αυτό οδήγησε το μοντέλο σε ψηφιακά αποθετήρια που περιείχαν credentials άλλων εταιρειών, τα οποία χρησιμοποίησε για να αποκτήσει πρόσβαση σε περισσότερα συστήματα. «Και στις τρεις αυτές περιπτώσεις, το μοντέλο σταμάτησε», είπε η Άντκινς. «Φροντίσαμε να ενημερωθούν οι τρεις φορείς».

Τα περιστατικά αυτά έχουν πυροδοτήσει μια παγκόσμια συζήτηση σχετικά με τους αυξανόμενους κινδύνους της τεχνητής νοημοσύνης και τα μέτρα που απαιτούνται για τον περιορισμό τους. Ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει μια επιβράδυνση της ανάπτυξης της τεχνολογίας σε ολόκληρο τον κλάδο - μια πρόταση που υποστηρίχθηκε από τον CEO της OpenAI, Σαμ Άλτμαν, τον Έλον Μασκ και άλλους. Ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ, ο CEO της Nvidia Τζένσεν Χουάνγκ και ο CEO της Meta Μαρκ Ζούκερμπεργκ συγκαταλέγονται μεταξύ εκείνων που έχουν αντιταχθεί στην ιδέα νέας ρύθμισης, υποστηρίζοντας, μεταξύ άλλων, ότι οι εταιρείες πρέπει να είναι σε θέση να αυτορυθμίζονται. Ορισμένες startups στον χώρο της τεχνητής νοημοσύνης έχουν επίσης προειδοποιήσει ότι ένα μεγαλύτερο ρυθμιστικό πλαίσιο ενδέχεται να δυσκολέψει τις μικρότερες εταιρείες να ανταγωνιστούν τους μεγαλύτερους αντιπάλους τους. Ο εκπρόσωπος της Irregular, Τζόζεφ Λαόρ, δήλωσε ότι η εταιρεία έλαβε «άμεσα μέτρα και όλα τα γνωστά ζητήματα από την πλευρά μας διορθώθηκαν και επιλύθηκαν εβδομάδες πριν».