Anthropic: Τερματισμός συνομιλιών σε ακραία κακοποίηση AI

Η Anthropic, η εταιρεία ανάπτυξης του προηγμένου μοντέλου τεχνητής νοημοσύνης Claude, προχώρησε σε μια σημαντική επικαιροποίηση της πολιτικής χρήσης των εργαλείων της, προκαλώντας έντονες αντιδράσεις στην τεχνολογική κοινότητα. Η νέα ρύθμιση δίνει τη δυνατότητα στα συστήματα τεχνητής νοημοσύνης της εταιρείας να τερματίζουν αυτόματα συνομιλίες σε περιπτώσεις παρατεταμένης και αδικαιολόγητης κακοποιητικής συμπεριφοράς εκ μέρους των χρηστών. Πρόκειται για μια απόφαση που εισάγει νέα δεδομένα στον τρόπο με τον οποίο οι άνθρωποι αλληλεπιδρούν με τα μεγάλα γλωσσικά μοντέλα, θέτοντας όρια στη συμπεριφορά των χρηστών απέναντι στα συστήματα τεχνητής νοημοσύνης.

Η νέα πρόβλεψη ενσωματώνεται ρητά στον κατάλογο των απαγορευμένων συμπεριφορών, ο οποίος περιλαμβάνει ήδη τον εκφοβισμό άλλων ανθρώπων, την προώθηση του αυτοτραυματισμού και τη δημιουργία μη συναινετικού προσωπικού ερωτικού υλικού. Σύμφωνα με την εταιρεία, το μέτρο θα εφαρμόζεται αποκλειστικά σε ακραίες περιπτώσεις επαναλαμβανόμενης κακοποιητικής συμπεριφοράς και δεν θα αφορά τη συνηθισμένη έκφραση δυσαρέσκειας, την αμφισβήτηση των απαντήσεων, τα σκοτεινά θέματα δημιουργικής γραφής ή τις δοκιμές και την έρευνα πάνω στα μοντέλα. Ωστόσο, παραμένει ασαφές τι ακριβώς θα θεωρείται «κακοποιητική ή σκληρή συμπεριφορά» απέναντι στα συστήματα τεχνητής νοημοσύνης, γεγονός που έχει προκαλέσει προβληματισμό και σύγχυση στους χρήστες.

Διχασμός για το αν μπορεί κανείς να είναι «σκληρός» απέναντι στην AI

Η αλλαγή της πολιτικής, η οποία έγινε γνωστή μέσα από αναρτήσεις στα μέσα κοινωνικής δικτύωσης, προκάλεσε αντικρουόμενες αντιδράσεις. Ορισμένοι τη χαιρέτισαν ως ενίσχυση της ευγένειας στην επικοινωνία με την τεχνητή νοημοσύνη, ενώ άλλοι αμφισβήτησαν τη σκοπιμότητά της. Ο δρ Μπάρι Σκάνελ, εταίρος στον τομέα της τεχνολογίας στη νομική εταιρεία William Fry της Ιρλανδίας, έγραψε στο LinkedIn: «Δεν μπορείς να είσαι σκληρός απέναντι σε αριθμούς και μαθηματικά». Υποστήριξε ότι η υπερβολική ανθρωπομορφοποίηση της τεχνητής νοημοσύνης είναι επιζήμια, καθώς μπορεί να οδηγήσει τους ανθρώπους να πιστέψουν ότι τα συστήματα αυτά είναι κάτι διαφορετικό από αυτό που πραγματικά είναι.

Στο θέμα παρενέβη και ο Μουσταφά Σουλεϊμάν, επικεφαλής της Microsoft στον τομέα της τεχνητής νοημοσύνης, ο οποίος είχε επικρίνει τον Σεπτέμβριο την Anthropic για την αντιμετώπιση της AI σαν να ήταν άνθρωπος. Σχολίασε τη νέα αλλαγή με ένα emoji που απεικονίζει ένα πρόσωπο να λιώνει, εκφράζοντας έτσι τη δυσαρέσκειά του για την εξέλιξη αυτή.

Οι νέοι κανόνες για τις εκλογές και τις παραπλανητικές εκστρατείες

Η απαγόρευση της κακοποιητικής συμπεριφοράς προς τα μοντέλα δεν ήταν η μόνη αλλαγή στην πολιτική χρήσης της Anthropic. Η αναθεώρηση, που πραγματοποιήθηκε στο πλαίσιο της ετήσιας αξιολόγησης των κανόνων της εταιρείας, περιλαμβάνει και νέες προβλέψεις για αναδυόμενους κινδύνους. Μεταξύ άλλων, απαγορεύεται η χρήση του Claude για παραπλανητικές εκστρατείες, ενώ διευκρινίζεται ότι το εργαλείο δεν μπορεί να χρησιμοποιείται για την εξαπάτηση ψηφοφόρων ή τη διατάραξη εκλογικών διαδικασιών, ενόψει των ενδιάμεσων εκλογών στις ΗΠΑ. Η εταιρεία αναφέρει επίσης ότι η προηγούμενη πολιτική της απαγόρευε ήδη τη χρήση των εργαλείων της για την ανάπτυξη όπλων.

Πρέπει να λέμε «παρακαλώ» και «ευχαριστώ» στην τεχνητή νοημοσύνη;

Η απόφαση αναζωπυρώνει τη συζήτηση για τον τρόπο με τον οποίο πρέπει να επικοινωνούν οι άνθρωποι με τα εργαλεία παραγωγικής τεχνητής νοημοσύνης. Ορισμένοι ειδικοί θεωρούν ότι οι εκφράσεις ευγένειας, όπως το «παρακαλώ» και το «ευχαριστώ», είναι περιττές και καταναλώνουν επιπλέον tokens — τις μονάδες κειμένου που επεξεργάζονται τα μεγάλα γλωσσικά μοντέλα για να παράγουν απαντήσεις. Άλλοι υποστηρίζουν ότι η ευγενική διατύπωση μπορεί να συμβάλει σε καλύτερες απαντήσεις.

Τον Απρίλιο του 2025, όταν χρήστης του X ρώτησε τον επικεφαλής της OpenAI, Σαμ Άλτμαν, για το κόστος ηλεκτρικής ενέργειας που προκαλούν τα «παρακαλώ» και «ευχαριστώ» στις συνομιλίες με το ChatGPT, εκείνος απάντησε ότι πρόκειται για «δεκάδες εκατομμύρια δολάρια που αξίζουν τον κόπο». Παράλληλα, η συζήτηση αφορά και τις πιθανές επιπτώσεις της αγενής συμπεριφοράς προς τα συστήματα AI στην ανθρώπινη επικοινωνία. Ορισμένοι ειδικοί έχουν εκφράσει την ανησυχία ότι η συνήθεια να απευθύνεται κανείς με προσβλητικό τρόπο στα chatbots μπορεί να επηρεάσει τον τρόπο με τον οποίο μιλά και συμπεριφέρεται στους άλλους ανθρώπους.