Claude της Anthropic βοήθησε σε hack της OpenAI

Μια ομάδα τριών ερευνητών ασφαλείας κατάφερε να διεισδύσει σε εσωτερικά συστήματα της OpenAI, αξιοποιώντας ένα κενό ασφαλείας στο δημόσιο forum της εταιρείας και χρησιμοποιώντας ως εργαλείο το μοντέλο τεχνητής νοημοσύνης Claude της Anthropic. Η όλη επιχείρηση ολοκληρώθηκε σε λιγότερο από 72 ώρες, αναδεικνύοντας τις νέες δυνατότητες που προσφέρουν τα προηγμένα συστήματα AI στον τομέα της κυβερνοασφάλειας.

Η δράση δεν είχε κακόβουλο χαρακτήρα. Η ομάδα της Hacktron ενεργούσε στο πλαίσιο εξουσιοδοτημένου ελέγχου ασφαλείας, μέσω του προγράμματος bug bounty της OpenAI, το οποίο ανταμείβει ερευνητές που εντοπίζουν σοβαρές ευπάθειες στα συστήματα της εταιρείας. Μετά την ολοκλήρωση του ελέγχου, οι ερευνητές ενημέρωσαν τόσο την OpenAI όσο και την Discourse, την πλατφόρμα που φιλοξενεί το forum, για τα προβλήματα που εντόπισαν.

Το στοιχείο που καθιστά την υπόθεση ξεχωριστή είναι ο ρόλος της τεχνητής νοημοσύνης. Αρχικά, η ομάδα επιχείρησε να εκμεταλλευτεί την ευπάθεια χρησιμοποιώντας μια ειδική έκδοση του Claude Opus 4.8, χωρίς επιτυχία. Όταν κυκλοφόρησε το Claude Opus 5, οι ερευνητές του ανέθεσαν το ίδιο πρόβλημα. Μέσα σε λίγες ώρες, το νέο μοντέλο εντόπισε τρόπο να αξιοποιήσει την αδυναμία του συστήματος και συνέβαλε καθοριστικά ώστε η ομάδα να αποκτήσει τον έλεγχο του διακομιστή που φιλοξενούσε το forum της OpenAI.

Πώς το Claude επιτάχυνε την επίθεση

Στη συνέχεια, οι ερευνητές εντόπισαν μια δεύτερη αδυναμία, μέσω της οποίας απέκτησαν πρόσβαση σε λογαριασμούς ChatGPT και Codex, συμπεριλαμβανομένων λογαριασμών εργαζομένων της OpenAI. Ένας από αυτούς τους λογαριασμούς ήταν συνδεδεμένος με το GitHub, την πλατφόρμα που χρησιμοποιούν προγραμματιστές και εταιρείες για την αποθήκευση και οργάνωση του κώδικά τους. Με αυτόν τον τρόπο, οι ερευνητές απέκτησαν πρόσβαση στο εσωτερικό αποθετήριο κώδικα της OpenAI, γνωστό ως "Monorepo".

Παρά την πρόσβαση που απέκτησαν, οι ερευνητές δεν αντέγραψαν τον κώδικα που περιείχε το αποθετήριο. Για να αποδείξουν ωστόσο ότι είχαν πράγματι αποκτήσει πρόσβαση, έστειλαν ένα αίτημα αλλαγής στον κώδικα μέσω λογαριασμού εργαζομένου της OpenAI. Για την αποκάλυψη των ευπαθειών, η Hacktron έλαβε από την OpenAI το ποσό των 6.500 δολαρίων.

Το πραγματικά ενδιαφέρον στοιχείο της υπόθεσης εντοπίζεται στην ταχύτητα με την οποία εξελίχθηκε η διαδικασία. Το περιστατικό καταδεικνύει ότι τα ισχυρά μοντέλα τεχνητής νοημοσύνης μπορούν να μειώσουν δραστικά τόσο τον χρόνο όσο και το επίπεδο εξειδίκευσης που απαιτείται για μια σύνθετη κυβερνοεπίθεση. Εργασίες που στο παρελθόν μπορούσαν να απαιτούν μήνες προετοιμασίας είναι πλέον δυνατό να ολοκληρωθούν μέσα σε λίγες ημέρες.

Είναι δύσκολο, ωστόσο, να αγνοήσει κανείς την ειρωνεία της υπόθεσης: ένα μοντέλο της Anthropic βοήθησε τους ερευνητές να φτάσουν μέχρι τα εσωτερικά συστήματα της OpenAI. Το ερώτημα που προκύπτει είναι κατά πόσο μπορεί να αναμένονται αντίποινα.