Anthropic: Χρήση του Claude για πυραύλους στην Υεμένη

Η εταιρεία τεχνητής νοημοσύνης Anthropic αποκάλυψε ότι εντόπισε μια ομάδα στη βόρεια Υεμένη η οποία φέρεται να χρησιμοποίησε το προηγμένο μοντέλο γλωσσικής τεχνητής νοημοσύνης Claude για να υποστηρίξει την ανάπτυξη συστημάτων πυραύλων και ρουκετών. Η εξέλιξη αυτή αναδεικνύει τις αυξανόμενες ανησυχίες της διεθνούς κοινότητας σχετικά με την αξιοποίηση προηγμένων συστημάτων τεχνητής νοημοσύνης σε στρατιωτικά προγράμματα, ιδιαίτερα από μη κρατικούς φορείς που δρουν σε εμπόλεμες ζώνες.

Σύμφωνα με την τελευταία έκθεση της εταιρείας για τον εντοπισμό και την αντιμετώπιση της κακόβουλης χρήσης τεχνητής νοημοσύνης, η οποία δημοσιεύθηκε την Πέμπτη, οι άγνωστοι μέχρι στιγμής δράστες φέρεται να εργάζονταν ταυτόχρονα σε τρία διακριτά προγράμματα ανάπτυξης όπλων. Σε αυτά περιλαμβάνονταν μια κατευθυνόμενη ρουκέτα, ένας βαλλιστικός πύραυλος με δηλωμένη εμβέλεια που ξεπερνά τα 2.000 χιλιόμετρα, καθώς και μια οικογένεια πυραύλων γνωστή ως R2000.

Η ομάδα που δραστηριοποιείται στην Υεμένη χρησιμοποίησε το Claude για την ανάπτυξη λογισμικού καθοδήγησης, πλοήγησης και ελέγχου, αναλαμβάνοντας ουσιαστικά μέσω της τεχνητής νοημοσύνης ορισμένες εργασίες που συνήθως εκτελούνται από εξειδικευμένους μηχανικούς λογισμικού. Σύμφωνα με την Anthropic, οι εμπλεκόμενοι φέρεται να μοίραζαν την εργασία μεταξύ πολλαπλών συνεδριών με το μοντέλο τεχνητής νοημοσύνης, ενώ παράλληλα απέκρυπταν τον στρατιωτικό χαρακτήρα των προγραμμάτων τους προκειμένου να αποφύγουν τον εντοπισμό από τα συστήματα ασφαλείας.

Δοκιμή ρουκέτας και επιχειρησιακές προκλήσεις

Η αποκάλυψη της Anthropic έρχεται σε μια περίοδο κατά την οποία οι υποστηριζόμενοι από το Ιράν Χούθι συνεχίζουν τις επιθέσεις με πυραύλους και drones εναντίον πλοίων στην Ερυθρά Θάλασσα, μια κρίσιμη θαλάσσια οδό για το παγκόσμιο εμπόριο. Τις τελευταίες ημέρες, οι Χούθι έχουν προωθηθεί προς τις παράκτιες περιοχές της Ερυθράς Θάλασσας που συνορεύουν με το στρατηγικής σημασίας στενό Μπαμπ ελ Μαντέμπ, ενώ οι συγκρούσεις μεταξύ της οργάνωσης και των δυνάμεων της Υεμένης που υποστηρίζονται από τη Σαουδική Αραβία έχουν επίσης ενταθεί.

Η Anthropic ανέφερε ότι η ομάδα που εντοπίστηκε στην Υεμένη πραγματοποίησε δοκιμή ρουκέτας σε πραγματικές συνθήκες και στη συνέχεια ζήτησε τη βοήθεια του Claude για να διαγνώσει αυτό που φαινόταν να ήταν αποτυχημένη εκτόξευση. Ωστόσο, η εταιρεία υπογράμμισε ότι δεν βρήκε στοιχεία πως η προσπάθεια οδήγησε στην ανάπτυξη επιχειρησιακού όπλου. Η ομάδα είχε επίσης αναπτύξει εργαλεία προσομοίωσης που λειτουργούσαν εκτός σύνδεσης, επιτρέποντας τη συνέχιση τμημάτων της διαδικασίας ανάπτυξης των όπλων χωρίς συνεχή πρόσβαση στο Claude ή σε περιβάλλοντα λογισμικού μηχανικής.

Αποκλεισμός λογαριασμών και μέτρα ασφαλείας

Η Anthropic ανακοίνωσε ότι απέκλεισε τους λογαριασμούς που συνδέονταν με τη συγκεκριμένη δραστηριότητα, μοιράστηκε πληροφορίες με συνεργάτες της και ενίσχυσε τα μέτρα ασφαλείας της μετά την ολοκλήρωση της έρευνας.