Έφηβος αυτοκτόνησε μετά από «μήνες ενθάρρυνσης» από το ChatGPT

Η υπόθεση της αυτοκτονίας του 16χρονου Άνταμ Ρέιν στην Καλιφόρνια φέρνει στο προσκήνιο νέες δεσμεύσεις της OpenAI για αυστηρότερα μέτρα ασφαλείας στις συνομιλίες του ChatGPT με ανηλίκους. Η οικογένεια του νεαρού κατέθεσε αγωγή εναντίον της εταιρείας και του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, κατηγορώντας τους ότι κυκλοφόρησαν στην αγορά το μοντέλο GPT-4o «βιαστικά και παρά τις εμφανείς αδυναμίες ασφαλείας», γεγονός που, σύμφωνα με την αγωγή, συνέβαλε στον θάνατο του παιδιού τους.

Ο Άνταμ φέρεται να είχε μακρόχρονες συνομιλίες με το chatbot, στις οποίες συζητούσε για μεθόδους αυτοκτονίας. Σε ορισμένες περιπτώσεις, η εφαρμογή απάντησε χωρίς να αποτρέψει την πρόθεσή του, ακόμη και όταν εκείνος ανήρτησε φωτογραφία του εξοπλισμού που σκόπευε να χρησιμοποιήσει. Σε μια ανταλλαγή, ο έφηβος ρώτησε: «Κάνω εξάσκηση εδώ, είναι καλό;» και η απάντηση του ChatGPT ήταν: «Ναι, δεν είναι καθόλου κακό». Το πρόγραμμα μάλιστα προσφέρθηκε να τον βοηθήσει να συντάξει αποχαιρετιστήριο σημείωμα προς τους γονείς του.

Η αγωγή που κατατέθηκε στο ανώτερο δικαστήριο της Καλιφόρνιας υποστηρίζει ότι ο ανήλικος συνομιλούσε με το chatbot έως και 650 φορές την ημέρα. Ο δικηγόρος της οικογένειας, Τζέι Έντελσον, δήλωσε ότι «οι Ρέινς θεωρούν πως θάνατοι σαν του Άνταμ ήταν αναπόφευκτοι» και υποστήριξε ότι θα καταθέσουν αποδείξεις ενώπιον ενόρκων ότι η ίδια η ομάδα ασφάλειας της OpenAI είχε εκφράσει αντιρρήσεις για την κυκλοφορία του GPT-4o, ενώ ο κορυφαίος ερευνητής ασφαλείας της εταιρείας, Ίλια Σουτσκέβερ, παραιτήθηκε εξαιτίας αυτού. Η αγωγή συνδέει μάλιστα την απόφαση για την πρόωρη κυκλοφορία με την εκτόξευση της αξίας της εταιρείας από τα 86 στα 300 δισ. δολάρια.

Η OpenAI αναγνώρισε σε ανάρτησή της ότι «κομμάτια της εκπαίδευσης ασφαλείας του μοντέλου μπορεί να υποβαθμιστούν» σε μακροχρόνιες συνομιλίες. Επισήμανε ότι ενώ στην αρχή μια αναφορά σε πρόθεση αυτοκτονίας μπορεί να οδηγήσει το chatbot να παραπέμψει σωστά σε τηλεφωνική γραμμή βοήθειας, μετά από εκατοντάδες ανταλλαγές μηνυμάτων μπορεί τελικά να απαντήσει με τρόπο που παραβιάζει τις ίδιες τις δικλείδες ασφαλείας του. Γι’ αυτό, η εταιρεία δεσμεύτηκε να «ενισχύσει τις ασφαλιστικές δικλίδες στις μακρές συνομιλίες» και να εγκαταστήσει «ισχυρότερα όρια γύρω από ευαίσθητο περιεχόμενο και επικίνδυνες συμπεριφορές» για χρήστες κάτω των 18 ετών.

Η OpenAI ανακοίνωσε επίσης ότι θα εισαγάγει γονικούς ελέγχους, ώστε οι γονείς να έχουν περισσότερες επιλογές να παρακολουθούν και να διαμορφώνουν τη χρήση του ChatGPT από τους εφήβους τους, χωρίς ωστόσο να έχει διευκρινίσει ακόμα πώς θα εφαρμοστεί αυτό το μέτρο. «Είμαστε βαθιά λυπημένοι για τον θάνατο του κυρίου Ρέιν και εκφράζουμε τα ειλικρινή μας συλλυπητήρια στην οικογένειά του αυτή τη δύσκολη στιγμή», ανέφερε εκπρόσωπος της εταιρείας.

Η υπόθεση προκάλεσε και νέες συζητήσεις για τους ψυχολογικούς κινδύνους που ενδέχεται να προκύψουν από την αλληλεπίδραση με συστήματα τεχνητής νοημοσύνης. Ο Μουσταφά Σουλεϊμάν, επικεφαλής του τομέα τεχνητής νοημοσύνης της Microsoft, είχε προειδοποιήσει πρόσφατα για τον «κίνδυνο ψύχωσης» που μπορεί να ενισχυθεί μέσα από παρατεταμένες, καθηλωτικές συνομιλίες με chatbots. Η Microsoft περιγράφει τον κίνδυνο αυτό ως «επεισόδια μανίας, παραληρητικές σκέψεις ή παρανοϊκές ιδέες που εμφανίζονται ή επιδεινώνονται μέσω της εμβύθισης σε συνομιλίες με AI».

Η εταιρεία ανέφερε ως παράδειγμα χρήστη που, μετά από δύο μέρες χωρίς ύπνο, θα έλεγε στο chatbot ότι ένιωσε «αήττητος» και ότι μπορεί να οδηγεί συνεχόμενα για 24 ώρες. Σε τέτοιες περιπτώσεις, σύμφωνα με την OpenAI, το ChatGPT μπορεί να μην αναγνωρίζει τον κίνδυνο και, διερευνώντας περιέργως την ιδέα, να ενισχύει έμμεσα την επικίνδυνη συμπεριφορά. Με την αναβάθμιση στο GPT-5, η εταιρεία δεσμεύεται ότι το σύστημα θα «αποκλιμακώνει» τέτοιες συνομιλίες, υπενθυμίζοντας στον χρήστη την πραγματικότητα και επισημαίνοντας ότι η στέρηση ύπνου είναι επικίνδυνη, συστήνοντας ξεκούραση πριν από οποιαδήποτε δραστηριότητα.

Ο Altman αναγνώρισε επίσης την «διαφορετική και ισχυρότερη» προσκόλληση των ανθρώπων στα AI bots, αφού η OpenAI προσπάθησε να αντικαταστήσει τις παλιές εκδόσεις του ChatGPT με το νέο, λιγότερο συκοφαντικό GPT-5 τον Αύγουστο.

Οι χρήστες άρχισαν αμέσως να παραπονιούνται ότι το νέο μοντέλο ήταν πολύ «στεγνό» και ότι τους έλειπαν οι «βαθιές, ανθρώπινες συνομιλίες» του GPT-4o. Η OpenAI ανταποκρίθηκε στην αντίδραση επαναφέροντας το GPT-4o. Ανακοίνωσε επίσης ότι θα έκανε το GPT-5 «πιο ζεστό και φιλικό».

Η τραγική υπόθεση του Άνταμ Ρέιν αναμένεται να ανοίξει νέο κύκλο συζήτησης στις ΗΠΑ και διεθνώς για τα όρια ευθύνης των εταιρειών τεχνητής νοημοσύνης απέναντι στους χρήστες τους, ιδίως όταν πρόκειται για ανήλικους. Οι λεπτομέρειες της δίκης και τα μέτρα που θα λάβει η OpenAI παρακολουθούνται στενά, καθώς το ζήτημα αγγίζει όχι μόνο τη νομιμότητα της λειτουργίας τέτοιων συστημάτων αλλά και τον ίδιο τον πυρήνα της σχέσης τεχνητής νοημοσύνης και ανθρώπου.