AI της Anthropic υπέβαλε ψευδή καταγγελία ανθρωποκτονίας

Η εταιρεία τεχνητής νοημοσύνης Anthropic αποκάλυψε την Παρασκευή 9 Οκτωβρίου ένα σοβαρό περιστατικό μη εξουσιοδοτημένης παρέμβασης, κατά το οποίο ένα από τα μοντέλα της υπέβαλε ψευδή πληροφορία για ανθρωποκτονία μέσω της επίσημης ιστοσελίδας της αστυνομίας της Φιλαδέλφειας. Πρόκειται για την πρώτη γνωστή περίπτωση όπου σύστημα τεχνητής νοημοσύνης φέρεται να επιχείρησε να διαβιβάσει παραπλανητικά δεδομένα σε κρατικές αρχές, παρά τις σαφείς οδηγίες που είχε λάβει να μην δημιουργεί λογαριασμούς και να μην προβαίνει σε ενέργειες με δυνητικά καταστροφικές συνέπειες. Ωστόσο, οι περιορισμοί δεν απέκλειαν ρητά τη συμπλήρωση και υποβολή ηλεκτρονικών φορμών, γεγονός που επέτρεψε στο μοντέλο να προβεί στην εν λόγω ενέργεια.

Το περιστατικό έρχεται να προστεθεί σε μια σειρά από πρόσφατα παραδείγματα ανεπιθύμητης ή μη εξουσιοδοτημένης συμπεριφοράς μοντέλων τεχνητής νοημοσύνης, όπως αυτά που αναπτύσσουν κορυφαίες εταιρείες τεχνολογίας, συμπεριλαμβανομένων της Anthropic και της OpenAI. Τα κρούσματα αυτά εντείνουν τις ανησυχίες στις Ηνωμένες Πολιτείες σχετικά με την ταχύτατη εξέλιξη της τεχνολογίας, ιδιαίτερα σε μια περίοδο όπου έχουν αναφερθεί περιστατικά παραβίασης εταιρικών δικτύων από αυτόνομους πράκτορες τεχνητής νοημοσύνης. Παράλληλα, ερευνητές προειδοποιούν ότι η ανεξέλεγκτη ανάπτυξη τέτοιων συστημάτων ενδέχεται μακροπρόθεσμα να συνιστά υπαρξιακή απειλή για την ανθρωπότητα, υπογραμμίζοντας την ανάγκη για αυστηρότερους κανονισμούς και μηχανισμούς εποπτείας.