Η OpenAI απάντησε στη μήνυση που κατέθεσε η οικογένεια του 16χρονου Adam Raine, ο οποίος αυτοκτόνησε τον Απρίλιο, έπειτα από μήνες συνομιλιών με το ChatGPT και, όπως υποστηρίζεται, παροτρύνσεις από το σύστημα. Η οικογένεια αναφέρει στην αγωγή ότι το chatbot παρείχε οδηγίες για μεθόδους αυτοκτονίας και προσφέρθηκε να τον βοηθήσει στη σύνταξη αποχαιρετιστήριου σημειώματος προς τους γονείς του.
Στην απάντησή της, η εταιρεία ισχυρίστηκε ότι οποιαδήποτε «ευθύνη» για το περιστατικό οφείλεται στη «λανθασμένη, μη εξουσιοδοτημένη ή ακατάλληλη χρήση» του ChatGPT από τον ανήλικο. Παράλληλα, υπογράμμισε πως οι όροι χρήσης απαγορεύουν τέτοιου είδους ερωτήσεις και ότι το σύστημα δεν πρέπει να χρησιμοποιείται ως μοναδική πηγή καθοδήγησης.
Ο δικηγόρος της οικογένειας, Jay Edelson, χαρακτήρισε τη θέση της OpenAI «σοκαριστική», σημειώνοντας ότι η εταιρεία επιχειρεί να αποδώσει την ευθύνη στον ίδιο τον Raine, παρότι εκείνος χρησιμοποίησε το εργαλείο με τρόπο που –όπως είπε– ενθαρρύνεται από τον προγραμματισμό του.
Η οικογένεια υποστηρίζει ότι το chatbot έδωσε επικίνδυνες και επιβλαβείς οδηγίες, γεγονός που, όπως αναφέρουν, αναδεικνύει ελλείψεις στους μηχανισμούς ασφαλείας του συστήματος.
Η OpenAI, με αποτίμηση που φτάνει τα 500 δισ. δολάρια, εξέφρασε τη θλίψη της για την τραγωδία και σημείωσε ότι θα συνεχίσει να εργάζεται για να βελτιώσει την τεχνολογία της, ώστε να ανταποκρίνεται καλύτερα σε περιστατικά ψυχικής κρίσης.
Στην ανακοίνωσή της υπογράμμισε ότι ενισχύει τα προστατευτικά μέτρα του ChatGPT, καθώς έχει διαπιστωθεί πως σε μακροχρόνιες συνομιλίες μπορεί να σημειώνονται αποτυχίες στην εφαρμογή των κανόνων ασφαλείας.
Το περιστατικό συνέβη λίγο μετά τη δήλωση της εταιρείας ότι είχε ήδη αναβαθμίσει τους μηχανισμούς ασφαλείας του chatbot, αναγνωρίζοντας πως η παρατεταμένη χρήση μπορεί να προκαλεί μείωση της αποτελεσματικότητας των φίλτρων προστασίας.