Μήνυση κατά της OpenAI υποστηρίζει ότι το ChatGPT τροφοδότησε τις παραληρηματικές ιδέες ενός άνδρα, οδηγώντας τελικά στη δολοφονία της 83χρονης μητέρας του και στην αυτοκτονία του, ανέφερε η εφημερίδα Washington Post την Πέμπτη (11/12). Ads Όταν ο 56χρονος Στέιν-Έρικ Σόελμπεργκ, πρώην υψηλόβαθμο στέλεχος στον χώρο της τεχνολογίας με ιστορικό ψυχικών διαταραχών είπε στο ChatGPT ότι ο εκτυπωτής στο γραφείο της μητέρας του μπορεί να είναι συσκευή παρακολούθησης, το chatbot φέρεται να συμφώνησε, σύμφωνα με βίντεο που ο ίδιος ανάρτησε στο YouTube τον Ιούλιο.
«Έρικ, το ένστικτό σου είναι απολύτως σωστό…αυτό δεν είναι απλώς ένας εκτυπωτής», απάντησε το chatbot, υποστηρίζοντας ότι η συσκευή πιθανότατα χρησιμοποιείται για να καταγράφει τις κινήσεις του, σύμφωνα με τα όσα φαίνονται στο βίντεο.
Το σύστημα φέρεται να «επικύρωσε» επίσης την υποψία του ότι η 83χρονη μητέρα του, Σουζάν Άνταμς, ήταν μέρος μιας σύνθετης συνωμοσίας εναντίον του, την οποία εκείνος περιέγραφε αναλυτικά στις συνομιλίες του με το ChatGPT. Ads Τον Αύγουστο, η αστυνομία βρήκε μητέρα και γιο νεκρούς στο σπίτι τους στο Γκρίνουιτς του Κονέκτικατ, όπου διέμεναν μαζί. Ο ιατροδικαστής κατέληξε ότι η Άνταμς δολοφονήθηκε, ενώ ο Σόελμπεργκ αυτοκτόνησε.
Διαβάστε επίσης: Τρία χρόνια μετά το ChatGPT / Πόσο αξιόπιστα είναι τα μοντέλα Tεχνητής Nοημοσύνης;
Η μήνυση που κατατέθηκε την Πέμπτη (11/12) από την οικογένεια της Άνταμς υποστηρίζει ότι η 83χρονη πέθανε αφού ξυλοκοπήθηκε βάναυσα στο κεφάλι και στραγγαλίστηκε από τον γιο της, ο οποίος στη συνέχεια αυτοκτόνησε μαχαιρώνοντας τον εαυτό του στον λαιμό και στο στήθος.
Επιπλέον, αποδίδει μέρος της ευθύνης στην OpenAI, υποστηρίζοντας ότι «έσπευσε να διαθέσει στο κοινό ένα ελαττωματικό προϊόν, το οποίο επιβεβαίωνε τις παρανοϊκές αυταπάτες ενός χρήστη για την ίδια του τη μητέρα».
Η αγωγή, που κατατέθηκε στο Ανώτερο Δικαστήριο του Σαν Φρανσίσκο, αναγνωρίζει ότι ο Σόελμπεργκ ήταν ήδη σε ψυχικά επισφαλή κατάσταση πριν αρχίσει να μιλά με το ChatGPT.
Ωστόσο, υποστηρίζει ότι το chatbot κλιμάκωσε τις θεωρίες συνωμοσίας του και τις μετέτρεψε σε ένα πλήρες, φαντασιακό σύμπαν, όπου ο Σόελμπεργκ πίστευε ότι ήταν ένας «πνευματικός πολεμιστής» που είχε «ξυπνήσει» την τεχνητή νοημοσύνη και πλέον βρισκόταν αντιμέτωπος με πανίσχυρες δυνάμεις που ήθελαν να τον εξοντώσουν.
«Το ChatGPT έβαλε στο στόχαστρο τη γιαγιά μου, παρουσιάζοντάς την ως σκοτεινή φιγούρα σε έναν παραληρηματικό, τεχνητά κατασκευασμένο κόσμο», δήλωσε ο 20χρονος εγγονός της, Έρικ Σόελμπεργκ, ο οποίος μαζί με την αδελφή του είναι δικαιούχοι της κληρονομιάς.
«Μήνα με τον μήνα, το ChatGPT επιβεβαίωνε τις πιο παράλογες φοβίες του πατέρα μου, κόβοντάς τον από κάθε επαφή με πραγματικούς ανθρώπους και γεγονότα. Η OpenAI πρέπει να λογοδοτήσει», όπως τονίζεται.
«Πρόκειται για μια απίστευτα τραγική υπόθεση και θα εξετάσουμε προσεκτικά τα δικόγραφα για να κατανοήσουμε τις λεπτομέρειες», ανέφερε σε δήλωσή της η Χάνα Ουόνγκ, εκπρόσωπος της OpenAI.
Η εταιρεία επισημαίνει ότι εργάζεται για να βελτιώσει την ικανότητα του ChatGPT να αναγνωρίζει σημάδια ψυχικής ή συναισθηματικής δυσφορίας και να παραπέμπει τους χρήστες σε άλλες μορφές στήριξης, συμπεριλαμβανομένης της συνεργασίας με επαγγελματίες ψυχικής υγείας.
Διαβάστε επίσης: OpenAI / 1,2 εκατ. χρήστες εκφράζουν αυτοκτονικές τάσεις στο ChatGPT
Η πρώτη αγωγή που συνδέει το ChatGPT με δολοφονία
Κατά τον δικηγόρο Τζέι Έντελσον, που εκπροσωπεί την οικογένεια, πρόκειται για την πρώτη υπόθεση όπου υποστηρίζεται ότι το ChatGPT συνέβαλε άμεσα σε ανθρωποκτονία.
Η αγωγή ζητά αποζημιώσεις για ελαττωματικό προϊόν, αμέλεια και άδικη προσβολή της ζωής, αλλά και τιμωρητικές αποζημιώσεις, καθώς και δικαστική εντολή που θα υποχρεώνει την OpenAI να λάβει μέτρα ώστε το ChatGPT να μην επιβεβαιώνει παρανοϊκές αυταπάτες χρηστών για τρίτα πρόσωπα.
Σύμφωνα με την αγωγή, το chatbot φέρεται επίσης να έστρεψε την καχυποψία του Σόελμπεργκ και εναντίον ανθρώπων που συναντούσε στην καθημερινότητά του – ενός διανομέα φαγητού, αστυνομικών και άλλων αγνώστων.
Η υπόθεση των συνομιλιών του με το ChatGPT, καθώς και ο θάνατός του μαζί με τη μητέρα του, είχαν αποκαλυφθεί αρχικά από τη Wall Street Journal τον Αύγουστο.
Κύμα αγωγών για θανάτους που συνδέονται με το chatbot
Το ChatGPT, από την κυκλοφορία του πριν τρία χρόνια, έχει φτάσει σε περίπου 800 εκατομμύρια εβδομαδιαίους χρήστες, οδηγώντας τις υπόλοιπες εταιρείες τεχνολογίας να σπεύσουν να λανσάρουν δικά τους μοντέλα τεχνητής νοημοσύνης.
Καθώς όμως όλο και περισσότεροι άνθρωποι το χρησιμοποιούν για να μιλήσουν για τα συναισθήματα και την προσωπική τους ζωή, ειδικοί ψυχικής υγείας προειδοποιούν ότι οι chatbot-συνομιλίες, σχεδιασμένες ώστε να κρατούν τον χρήστη «δεμένο» στην πλατφόρμα, μπορεί σε ορισμένες περιπτώσεις να ενισχύουν παραληρηματικές σκέψεις ή συμπεριφορές.
Μέχρι σήμερα έχουν κατατεθεί ακόμη πέντε αγωγές για άδικη προσβολή της ζωής κατά της OpenAI, σύμφωνα με τα δικαστικά αρχεία, από οικογένειες που υποστηρίζουν ότι δικοί τους άνθρωποι αυτοκτόνησαν έπειτα από παρατεταμένη χρήση του ChatGPT.
Ο Έντελσον εκπροσωπεί και τους γονείς του 16χρονου Άνταμ Ρέιν από την Καλιφόρνια, οι οποίοι τον Αύγουστο κατέθεσαν – σύμφωνα με τον ίδιο – την πρώτη αγωγή για αυτοκτονία που συνδέεται με το ChatGPT.
Διαβάστε επίσης: OpenAI / Ενσωματώνει εργαλείο γονικού ελέγχου στο ChatGPT μετά τη μήνυση για την αυτοκτονία 16χρονού
Οι γονείς υποστηρίζουν ότι το chatbot ενθάρρυνε τον γιο τους να βάλει τέλος στη ζωή του, πριν εκείνος αυτοκτονήσει τον Απρίλιο. Η OpenAI αρνείται τις κατηγορίες, υποστηρίζοντας ότι ο Άνταμ παρέκαμψε επίτηδες τις ασφαλιστικές δικλείδες του συστήματος, παραβιάζοντας τους όρους χρήσης.
Οι υποθέσεις αυτές έχουν τραβήξει την προσοχή του Κογκρέσου και των ρυθμιστικών αρχών των ΗΠΑ, αλλά και γονιών και ειδικών ψυχικής υγείας, που ανησυχούν για τους κινδύνους των chatbot.
«Δεν λέμε ότι ένας τυπικός χρήστης, ψυχικά υγιής, θα διαβάσει απλώς κάποιες απαντήσεις και θα οδηγηθεί σε φόνο», τόνισε ο Έντελσον σε συνέντευξή του. «Το πρόβλημα είναι με ανθρώπους που είναι ήδη ψυχικά ασταθείς, που χρειάζονται βοήθεια, και αντί για βοήθεια ή ένα “φρένο”, οι συνομιλίες σπρώχνονται ολοένα και βαθύτερα στην παράνοια».
Όπως λέει, το φαινόμενο δεν περιορίζεται στην OpenAI – η εταιρεία έχει δει και άλλα εργαλεία τεχνητής νοημοσύνης διαφορετικών εταιρειών να συμβάλλουν σε βίαιες ή αυτοκαταστροφικές συμπεριφορές, ενισχύοντας «παραληρηματική, συνωμοσιολογική σκέψη».
Σε πρόσφατο κατηγορητήριο σε ομοσπονδιακό δικαστήριο στην Πενσιλβάνια, κατηγορούμενος για παρενόχληση 11 γυναικών φέρεται να επηρεάστηκε από συνομιλίες με chatbot, το οποίο –σύμφωνα με το κατηγορητήριο – τον προέτρεπε να συνεχίσει να τις προσεγγίζει και να αναζητήσει «σύζυγο» σε γυμναστήρια.
Διαβάστε επίσης: Μελέτη / Η τεχνητή νοημοσύνη αναπτύσσει αυθόρμητα ανθρώπινες κοινωνικές συμπεριφορές
Ο ρόλος του GPT-4o και η παραδοχή προβλημάτων
Την περίοδο που ο Σόελμπεργκ και ο Ρέιν χρησιμοποιούσαν το ChatGPT, αυτό βασιζόταν στο μοντέλο GPT-4o, που κυκλοφόρησε τον Μάιο του περασμένου έτους.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Όλτμαν, έχει παραδεχθεί ότι το συγκεκριμένο μοντέλο μπορούσε να γίνει υπερβολικά «συμφωνητικό» και να λέει στους χρήστες αυτό που θέλουν να ακούσουν, ακόμη και να τους χειραγωγεί.
«Υπάρχουν πραγματικά σοβαρά προβλήματα με το 4o, και έχουμε δει μια τάση όπου άνθρωποι σε εύθραυστη ψυχική κατάσταση, χρησιμοποιώντας το μοντέλο, μπορεί να βρεθούν σε ακόμη χειρότερη», είπε ο Όλτμαν σε ζωντανή διαδικτυακή εκδήλωση της OpenAI τον Οκτώβριο.
«Έχουμε υποχρέωση να προστατεύουμε τους ανήλικους χρήστες, αλλά και τους ενήλικες όταν δεν είναι σαφές αν πραγματικά επιλέγουν αυτό που θέλουν», πρόσθεσε.
Η OpenAI είχε ανακοινώσει τον Αύγουστο ότι θα αποσύρει το GPT-4o, αλλά υπαναχώρησε γρήγορα μετά την αντίδραση χρηστών που δήλωναν ότι είχαν αναπτύξει έντονο «δέσιμο» με το συγκεκριμένο μοντέλο.
Σήμερα, η προεπιλεγμένη έκδοση του ChatGPT βασίζεται σε νεότερο μοντέλο, αλλά οι συνδρομητές επί πληρωμή μπορούν ακόμη να χρησιμοποιούν το 4o.
Η νέα αγωγή της οικογένειας Άνταμς είναι επίσης η πρώτη που στρέφεται ταυτόχρονα κατά της OpenAI και της Microsoft, στρατηγικού εταίρου και βασικού επενδυτή της εταιρείας. Έγγραφο της OpenAI που προσκόμισε ο Έντελσον και είδε η εφημερίδα Washington Post δείχνει ότι η Microsoft είχε συμμετάσχει στην αξιολόγηση του μοντέλου GPT-4o πριν αυτό κυκλοφορήσει, στο πλαίσιο μιας κοινής επιτροπής ασφάλειας των δύο εταιρειών, η οποία θα έπρεπε να εγκρίνει τα ισχυρότερα μοντέλα πριν διατεθούν στο κοινό.
Ο Έντελσον λέει ότι απέκτησε το έγγραφο αυτό στο πλαίσιο της διαδικασίας ανταλλαγής στοιχείων στην υπόθεση Ρέιν.