Ο βρετανικός οργανισμός επίβλεψης και προστασίας των ανήλικων χρηστών του διαδικτύου Internet Watch Foundation (IWF) προειδοποιεί ότι η τεχνητή νοημοσύνη που ανήκει στον Έλον Μασκ διοχετεύει σεξουαλικές εικόνες παιδιών στο ιντερνετικό mainstream.
Το IWF, με έδρα τη Βρετανία, δήλωσε ότι χρήστες ενός φόρουμ στο dark web καυχήθηκαν ότι χρησιμοποίησαν το Grok Imagine για να δημιουργήσουν σεξουαλικές εικόνες γυμνών κοριτσιών ηλικίας 11 έως 13 ετών.
Αναλυτές του IWF δήλωσαν ότι οι εικόνες θεωρούνται υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) σύμφωνα με τη βρετανική νομοθεσία.
«Μπορούμε να επιβεβαιώσουμε ότι οι αναλυτές μας ανακάλυψαν εγκληματικές εικόνες παιδιών ηλικίας 11 έως 13 ετών που φαίνεται να δημιουργήθηκαν με το εργαλείο», δήλωσε η Ναγκέρ Αλεξάντερ, επικεφαλής της γραμμής καταγγελιών του IWF.
Η Αλεξάντερ είπε ότι το υλικό που είδε το IWF χρησιμοποιήθηκε για τη δημιουργία ακόμη πιο ακραίου περιεχομένου – γνωστού ως Κατηγορία Α, που περιλαμβάνει σεξουαλική δραστηριότητα με διείσδυση – με τη χρήση διαφορετικού εργαλείου AI.
«Ανησυχούμε εξαιρετικά για την ευκολία και την ταχύτητα με την οποία οι άνθρωποι μπορούν προφανώς να δημιουργήσουν φωτορεαλιστικό υλικό σεξουαλικής κακοποίησης παιδιών. Εργαλεία όπως το Grok κινδυνεύουν τώρα να φέρουν σεξουαλικές εικόνες παιδιών με AI στο mainstream. Αυτό είναι απαράδεκτο», πρόσθεσε.
Το X, η πλατφόρμα κοινωνικής δικτύωσης του Μασκ, έχει κατακλυστεί από εικόνες γυναικών και παιδιών των οποίων τα ρούχα αφαιρέθηκαν ψηφιακά με το εργαλείο Grok, προκαλώντας δημόσια κατακραυγή και καταδίκη από Άγγλους πολιτικούς
Την Τετάρτη, η επιτροπή γυναικών και ισότητας της Βουλής των Κοινοτήτων ανακοίνωσε ότι δεν θα χρησιμοποιεί πλέον το X για τις επικοινωνίες της, λέγοντας ότι δεν είναι πλέον κατάλληλο δεδομένου ότι η πρόληψη της βίας κατά γυναικών και κοριτσιών είναι μεταξύ των βασικών πολιτικών της προτεραιοτήτων.
Η απόφαση αποτελεί την πρώτη σημαντική κίνηση βρετανικού κοινοβουλευτικού οργάνου να εγκαταλείψει το X λόγω της κατάχρησης του Grok.
Ορισμένα μέλη, συμπεριλαμβανομένης της Εργατικής προέδρου Σάρα Όουεν, έχουν ήδη σταματήσει να χρησιμοποιούν το X.
Η Φιλελεύθερη Δημοκρατική βουλευτής Κριστίν Τζαρντίν είπε ότι εγκαταλείπει την πλατφόρμα, χαρακτηρίζοντας τις εικόνες του Grok «την τελευταία σταγόνα που ξεχειλίζει το ποτήρι».
Παρά τις προειδοποιήσεις για ρυθμιστικές ενέργειες από ΕΕ και Βρετανία, δεν υπήρχαν ενδείξεις ότι η πλατφόρμα είχε εγκαταστήσει αυστηρότερα μέτρα προστασίας, και φωτογραφίες εφήβων κοριτσιών συνέχισαν να «γδύνονται» ψηφιακά κατόπιν αιτήματος χρηστών, για να εμφανίζονται με μικρά, αποκαλυπτικά εσώρουχα ή σε σεξουαλικά ρητές πόζες.
Ορισμένοι χρήστες ζήτησαν ακόμη πιο ακραίο περιεχόμενο, όπως μπικίνι διακοσμημένα με σβάστικες ή τροποποιήσεις φωτογραφιών γυναικών ώστε να φαίνονται θύματα κακοποίησης.
Το chatbot υπάκουσε, προσθέτοντας εγκαύματα από τσιγάρα, μώλωπες στο πρόσωπο και αίμα σε ορισμένες εικόνες γυναικών.
Η Ντάουνινγκ Στριτ δήλωσε ότι «όλες οι επιλογές είναι στο τραπέζι», συμπεριλαμβανομένου μποϊκοτάζ του X, καθώς υπουργοί στήριξαν τη βρετανική ρυθμιστική αρχή Ofcom να αναλάβει δράση.
Την Τετάρτη, ο επίσημος εκπρόσωπος του πρωθυπουργού δήλωσε: «Το X πρέπει να το αντιμετωπίσει αυτό, επειγόντως, και η Ofcom έχει την πλήρη στήριξή μας για να λάβει μέτρα επιβολής όπου εταιρείες αποτυγχάνουν να προστατεύσουν τους Βρετανούς χρήστες. Έχει ήδη την εξουσία να επιβάλει πρόστιμα έως δισεκατομμύρια λίρες και ακόμη να σταματήσει την πρόσβαση σε ιστότοπο που παραβιάζει τον νόμο».
Η βρετανική αρχή προστασίας δεδομένων (ICO) δήλωσε ότι επικοινώνησε με το X και την xAI (η εταιρεία του Μασκ που κατέχει το Grok και το X) «για να ζητήσει διευκρινίσεις σχετικά με τα μέτρα που έχουν θεσπίσει για συμμόρφωση με τη βρετανική νομοθεσία προστασίας δεδομένων».
Το X έχει δηλώσει ότι λαμβάνει μέτρα κατά του παράνομου περιεχομένου, συμπεριλαμβανομένου υλικού σεξουαλικής κακοποίησης παιδιών, «αφαιρώντας το, αναστέλλοντας μόνιμα λογαριασμούς και συνεργαζόμενο με τοπικές κυβερνήσεις και αρχές επιβολής του νόμου όπου χρειάζεται».