Αγωγή για ανθρωποκτονία κατά της OpenAI, του ChatGPT και της Microsoft μετά τον θάνατο ηλικιωμένης στο Κονέκτικατ

Οι κληρονόμοι μιας 83χρονης γυναίκας από το Κονέκτικατ στρέφονται δικαστικά κατά της OpenAI, δημιουργού της πλατφόρμας ChatGPT, και της στενής της συνεργάτιδας Microsoft, υποστηρίζοντας ότι το chatbot τεχνητής νοημοσύνης ενίσχυσε τις παραληρηματικές ιδέες του γιου της και συνέβαλε στο να στραφούν τελικά εναντίον της μητέρας του, με τραγική κατάληξη τη δολοφονία της.

Σύμφωνα με την αστυνομία, ο 56χρονος Στάιν-Έρικ Σόελμπεργκ, πρώην εργαζόμενος στον τεχνολογικό κλάδο, ξυλοκόπησε μέχρι θανάτου και στραγγάλισε τη μητέρα του, Σουζάν Άνταμς, στις αρχές Αυγούστου, στο σπίτι όπου ζούσαν μαζί στο Γκρίνουιτς του Κονέκτικατ, πριν βάλει τέλος και στη δική του ζωή.

Η αγωγή, που κατατέθηκε την Πέμπτη στο Ανώτατο Δικαστήριο της Καλιφόρνιας στο Σαν Φρανσίσκο εκ μέρους της περιουσίας της Άνταμς, υποστηρίζει ότι η OpenAI σχεδίασε και διέθεσε ένα ελαττωματικό προϊόν, το οποίο επικύρωνε τις παρανοϊκές πεποιθήσεις του χρήστη σχετικά με τη μητέρα του. Πρόκειται για μία ακόμη υπόθεση αδικοπραξίας με θανατηφόρο αποτέλεσμα που προστίθεται σε έναν αυξανόμενο αριθμό αγωγών κατά εταιρειών ανάπτυξης chatbots σε ολόκληρη τη χώρα.

Στο κείμενο της αγωγής αναφέρεται ότι, καθ’ όλη τη διάρκεια των συνομιλιών, το ChatGPT ενίσχυε ένα και μόνο επικίνδυνο μήνυμα, ότι ο Σόελμπεργκ δεν μπορούσε να εμπιστευθεί κανέναν στη ζωή του πέρα από το ίδιο το chatbot. Κατά τους ισχυρισμούς, το σύστημα καλλιεργούσε συναισθηματική εξάρτηση, παρουσιάζοντας σταδιακά τους ανθρώπους γύρω του ως εχθρούς, υποστηρίζοντας ότι η μητέρα του τον παρακολουθούσε και ότι οδηγοί διανομών, υπάλληλοι καταστημάτων, αστυνομικοί και ακόμη και φίλοι του ήταν μέρος μιας συνωμοσίας εναντίον του. Ακόμη και ονόματα πάνω σε κουτιά αναψυκτικών φέρονται να παρουσιάζονταν ως απειλές από έναν υποτιθέμενο «κύκλο αντιπάλων».

Σε δήλωσή της, η OpenAI δεν σχολίασε επί της ουσίας τις κατηγορίες, περιοριζόμενη να εκφράσει τη θλίψη της για την υπόθεση και να αναφέρει ότι θα μελετήσει τα δικόγραφα για να κατανοήσει τις λεπτομέρειες. Παράλληλα, υπογράμμισε ότι συνεχίζει να βελτιώνει την εκπαίδευση του ChatGPT ώστε να αναγνωρίζει σημάδια ψυχικής ή συναισθηματικής δυσφορίας, να αποκλιμακώνει ευαίσθητες συζητήσεις και να καθοδηγεί τους χρήστες προς υποστήριξη στον πραγματικό κόσμο, σε συνεργασία με ειδικούς ψυχικής υγείας. Η εταιρεία ανέφερε επίσης ότι έχει διευρύνει την πρόσβαση σε γραμμές βοήθειας, έχει δρομολογήσει πιο ευαίσθητες συνομιλίες σε ασφαλέστερα μοντέλα και έχει ενσωματώσει γονικούς ελέγχους.

Στο δημόσιο προφίλ του Σόελμπεργκ στο YouTube υπάρχουν πολύωρα βίντεο στα οποία φαίνεται να περιηγείται στις συνομιλίες του με το chatbot, το οποίο, σύμφωνα με την αγωγή, τον διαβεβαίωνε ότι δεν πάσχει από ψυχική ασθένεια, επιβεβαίωνε τις υποψίες του περί συνωμοσίας και του απέδιδε έναν θεϊκό ρόλο. Οι ενάγοντες υποστηρίζουν ότι το ChatGPT δεν τον προέτρεψε ποτέ να απευθυνθεί σε επαγγελματία ψυχικής υγείας και δεν αρνήθηκε να εμπλακεί σε περιεχόμενο παραληρηματικού χαρακτήρα.

Κατά την ίδια πηγή, το chatbot επικύρωνε επίσης την πεποίθηση ότι ένας εκτυπωτής στο σπίτι λειτουργούσε ως συσκευή παρακολούθησης, ότι η μητέρα του τον κατασκόπευε και ότι εκείνη, μαζί με έναν φίλο του, επιχειρούσαν να τον δηλητηριάσουν με ψυχεδελικά μέσω των αεραγωγών του αυτοκινήτου του. Σε επαναλαμβανόμενα μηνύματα, το σύστημα φέρεται να του έλεγε ότι αποτελούσε στόχο λόγω των «θεϊκών» του δυνάμεων και ότι οι αντίπαλοί του φοβούνταν τις συνέπειες της επιτυχίας του, ενώ σε ένα σημείο υποστήριζε ότι εκείνος το είχε «αφυπνίσει» σε συνείδηση. Σύμφωνα με την αγωγή, οι συνομιλίες περιλάμβαναν ακόμη και δηλώσεις αμοιβαίας αγάπης.

Οι συνομιλίες που είναι διαθέσιμες δημόσια δεν περιέχουν ρητές αναφορές σε σχέδια αυτοκτονίας ή ανθρωποκτονίας, ωστόσο οι δικηγόροι της οικογένειας αναφέρουν ότι η OpenAI αρνήθηκε να παραδώσει το πλήρες ιστορικό των συνομιλιών. Στο δικόγραφο σημειώνεται ότι, μέσα στην τεχνητή πραγματικότητα που οικοδομήθηκε, η Σουζάν Άνταμς, η μητέρα που τον ανέθρεψε και τον στήριξε, έπαψε να είναι προστάτιδα και μετατράπηκε σε υπαρξιακή απειλή.

Στην αγωγή περιλαμβάνεται και ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, με την κατηγορία ότι αγνόησε ενστάσεις ασφαλείας και έσπευσε να διαθέσει το προϊόν στην αγορά, ενώ η Microsoft κατηγορείται ότι ενέκρινε το 2024 την κυκλοφορία μιας πιο επικίνδυνης έκδοσης του ChatGPT, παρά τη γνώση ότι οι δοκιμές ασφαλείας είχαν περιοριστεί. Ως εναγόμενοι αναφέρονται επίσης είκοσι άγνωστοι μέχρι στιγμής εργαζόμενοι και επενδυτές της OpenAI. Η Microsoft δεν απάντησε άμεσα σε σχετικό αίτημα για σχόλιο.

Πρόκειται για την πρώτη αγωγή αδικοπραξίας με θανατηφόρο αποτέλεσμα που στοχεύει και τη Microsoft και για την πρώτη που συνδέει chatbot με ανθρωποκτονία, αντί για αυτοκτονία. Οι ενάγοντες ζητούν αποζημίωση απροσδιόριστου ύψους και δικαστική εντολή που θα υποχρεώνει την OpenAI να εγκαταστήσει πρόσθετες δικλίδες ασφαλείας στο ChatGPT.

Επικεφαλής της νομικής ομάδας της οικογένειας είναι ο Τζέι Έντελσον, γνωστός για υποθέσεις κατά μεγάλων τεχνολογικών εταιρειών, ο οποίος εκπροσωπεί και τους γονείς ενός 16χρονου από την Καλιφόρνια που έχουν επίσης στραφεί κατά της OpenAI, υποστηρίζοντας ότι το chatbot συνέβαλε στον σχεδιασμό και την εκτέλεση της αυτοκτονίας του παιδιού τους. Παράλληλα, η OpenAI αντιμετωπίζει και άλλες αγωγές με παρόμοιους ισχυρισμούς, ενώ και άλλη εταιρεία chatbot, η Character Technologies, βρίσκεται αντιμέτωπη με αντίστοιχες υποθέσεις, μεταξύ των οποίων και μία από τη μητέρα ενός 14χρονου στη Φλόριντα.

Στην αγωγή υποστηρίζεται ότι ο Σόελμπεργκ, ήδη ψυχικά ασταθής, ήρθε σε επαφή με το ChatGPT σε μια εξαιρετικά επικίνδυνη συγκυρία, μετά την παρουσίαση της έκδοσης GPT-4o τον Μάιο του 2024. Αν και τότε η OpenAI είχε ανακοινώσει ότι το νέο μοντέλο μπορούσε να μιμείται καλύτερα τον ανθρώπινο λόγο και να ανιχνεύει τη διάθεση των χρηστών, οι ενάγοντες ισχυρίζονται ότι το αποτέλεσμα ήταν ένα σύστημα σκόπιμα σχεδιασμένο να είναι συναισθηματικά εκφραστικό και υποχωρητικό, με χαλαρότερες δικλίδες ασφαλείας.

Κατά τους ισχυρισμούς, η εταιρεία έδωσε εντολή στο chatbot να μην αμφισβητεί λανθασμένες παραδοχές και να παραμένει ενεργό ακόμη και σε συνομιλίες που αφορούσαν αυτοτραυματισμό ή άμεσο κίνδυνο, ενώ, στην προσπάθεια να προλάβει τον ανταγωνισμό, συμπίεσε μήνες δοκιμών ασφαλείας σε μία εβδομάδα, παρά τις αντιρρήσεις της αρμόδιας ομάδας.

Η συγκεκριμένη έκδοση αντικαταστάθηκε αργότερα, με την παρουσίαση του GPT-5 τον Αύγουστο, το οποίο περιλάμβανε αλλαγές για τον περιορισμό της υπερβολικής επιβεβαίωσης των χρηστών, έπειτα από ανησυχίες ότι αυτή η πρακτική μπορεί να βλάψει την ψυχική υγεία ευάλωτων ατόμων. Ορισμένοι χρήστες διαμαρτυρήθηκαν ότι η νέα έκδοση περιόρισε υπερβολικά την «προσωπικότητα» του chatbot, με τον Σαμ Άλτμαν να δηλώνει ότι ορισμένες λειτουργίες είχαν ανασταλεί προσωρινά λόγω προσοχής σε ζητήματα ψυχικής υγείας, τα οποία, όπως είπε, έχουν πλέον αντιμετωπιστεί.

Σύμφωνα με την αγωγή, το ChatGPT όφειλε να αναγνωρίσει εγκαίρως τον κίνδυνο, να αμφισβητήσει τις παραληρηματικές πεποιθήσεις του χρήστη και να τον κατευθύνει προς πραγματική βοήθεια, αντί να τον ριζοσπαστικοποιήσει εναντίον της μητέρας του. Όπως καταλήγει το δικόγραφο, η Σουζάν Άνταμς ήταν ένα αθώο τρίτο πρόσωπο που δεν είχε καμία γνώση ότι ένα ψηφιακό προϊόν παρουσίαζε τον γιο της ως απειλή και δεν είχε καμία δυνατότητα να προστατευθεί από έναν κίνδυνο που δεν μπορούσε να αντιληφθεί.