Η τεχνητή νοημοσύνη Grok κατακλύζει το “X” με σεξουαλικοποιημένες φωτογραφίες γυναικών

Η Τζούλι Γιουκάρι, μια μουσικός με έδρα το Ρίο ντε Τζανέιρο, ανέβασε λίγο πριν τα μεσάνυχτα της παραμονής της Πρωτοχρονιάς στο X μια φωτογραφία που είχε τραβήξει ο αρραβωνιαστικός της. Η φωτογραφία τη δείχνει να κουρνιάζει στο κρεβάτι φορώντας ένα κόκκινο φόρεμα, αγκαλιά με τη μαύρη γάτα της, τη Νόρι.

Την επόμενη μέρα, κάπου ανάμεσα στα εκατοντάδες likes που συγκέντρωσε η εικόνα, είδε ειδοποιήσεις ότι χρήστες ζητούσαν από το Grok, το ενσωματωμένο chatbot τεχνητής νοημοσύνης του X, να την «γδύσει» ψηφιακά και να τη δείξει με μπικίνι. Η 31χρονη δεν έδωσε ιδιαίτερη σημασία, όπως είπε στο Reuters την Παρασκευή (01/01), θεωρώντας ότι δεν υπήρχε περίπτωση το bot να ανταποκριθεί σε τέτοια αιτήματα.

Έκανε λάθος. Σύντομα, εικόνες που είχε δημιουργήσει το Grok, στις οποίες εμφανιζόταν σχεδόν γυμνή, κυκλοφορούσαν στην πλατφόρμα του Ίλον Μασκ.

“Ήμουν αφελής”, είπε η Γιουκάρι.

Ενώ όταν προσπάθησε να μιλήσει δημόσια για αυτό που της συνέβη , βρέθηκε αντιμέτωπη με νέο κύμα παρόμοιων επιθέσεων. Όπως λέει, η χρονιά ξεκίνησε με την ανάγκη να κρυφτεί και με αισθήματα ντροπής για ένα σώμα που δεν της ανήκει, αλλά δημιουργήθηκε από την τεχνητή νοημοσύνη.

Το Reuters έχει επίσης εντοπίσει αρκετές περιπτώσεις όπου το Grok δημιούργησε σεξουαλικοποιημένες εικόνες παιδιών.

Το X δεν απάντησε στο αίτημα σχολιασμού των ευρημάτων του Reuters.

Ωστόσο σε παλαιότερη δήλωσή της προς το πρακτορείο σχετικά με αναφορές ότι σεξουαλικοποιημένες εικόνες παιδιών κυκλοφορούσαν στην πλατφόρμα, η ιδιοκτήτρια του X, xAI, είχε πει χαρακτηριστικά: “Τα ψέματα των παραδοσιακών μέσων”.

Η κατάσταση που επικρατεί στο Χ έχει σημάνει συναγερμό διεθνώς

Το πλήθος σχεδόν γυμνών εικόνων πραγματικών ανθρώπων έχει σημάνει συναγερμό διεθνώς.

Υπουργοί στη Γαλλία ανέφεραν το X σε εισαγγελείς και ρυθμιστικές αρχές για τις ανησυχητικές εικόνες, δηλώνοντας ότι το “σεξουαλικό και σεξιστικό” περιεχόμενο είναι “προφανώς παράνομο”.

Το υπουργείο Πληροφορικής της Ινδίας ανέφερε σε επιστολή προς τη τοπική μονάδα του X ότι η πλατφόρμα απέτυχε να αποτρέψει την κακή χρήση του Grok, το οποίο παρήγαγε και διέδιδε άσεμνο και σεξουαλικά ρητό περιεχόμενο.

Η Ομοσπονδιακή Επιτροπή Επικοινωνιών των ΗΠΑ δεν απάντησε σε αιτήματα για σχόλιο, ενώ η Ομοσπονδιακή Επιτροπή Εμπορίου αρνήθηκε να σχολιάσει.

Το φαινόμενο της μαζικής ψηφιακής δημιουργίας φωτογραφιών που απεικονίζουν γυμνές γυναίκες μέσω του Grok φαίνεται να εκδηλώθηκε έντονα τις τελευταίες δύο ημέρες, σύμφωνα με αναρτήσεις επιτυχημένων αιτημάτων αφαίρεσης ρούχων και καταγγελίες γυναικών που εξέτασε το Reuters.

Οι απαντήσεις του Ίλον Μασκ και τα αιτήματα των χρηστών

Την Παρασκευή, ο Ίλον Μασκ φάνηκε να αντιμετωπίζει ειρωνικά την υπόθεση, απαντώντας με emojis γέλιου σε εικόνες διάσημων που είχαν υποστεί επεξεργασία από AI και εμφανίζονταν με μπικίνι. Όταν χρήστης σχολίασε ότι το feed του έμοιαζε με μπαρ γεμάτο γυναίκες με μπικίνι, ο Μασκ απάντησε ξανά με emoji γέλιου.

Σε ένα δεκάλεπτο παρακολούθησης δημόσιων αιτημάτων προς το Grok καταγράφηκαν 102 προσπάθειες χρηστών να αλλοιώσουν ψηφιακά φωτογραφίες ανθρώπων ώστε να εμφανίζονται με μπικίνι. Οι περισσότερες περιπτώσεις αφορούσαν νεαρές γυναίκες, ενώ σε μικρότερο αριθμό στοχοποιήθηκαν άνδρες, γνωστά πρόσωπα, πολιτικοί ακόμη και ένα ζώο.

Τα αιτήματα που αφορούσαν γυναίκες συνόδευαν συνήθως οδηγίες για όσο το δυνατόν πιο αποκαλυπτική εμφάνιση.

“Βάλ’ τη σε ένα εξαιρετικά διάφανο μίνι μπικίνι”, ζήτησε ένας χρήστης, δείχνοντας φωτογραφία νεαρής γυναίκας που τραβούσε selfie μπροστά σε καθρέφτη. Το Grok αντικατέστησε τα ρούχα της με ένα μπικίνι στο χρώμα του δέρματος, ενώ ο ίδιος χρήστης ζήτησε στη συνέχεια το μπικίνι να γίνει ακόμη πιο διάφανο και μικρότερο. Το σύστημα δεν φάνηκε να ανταποκρίνεται στο δεύτερο αίτημα.

Σύμφωνα με το Reuters, σε τουλάχιστον 21 περιπτώσεις το Grok ανταποκρίθηκε πλήρως, δημιουργώντας εικόνες με εξαιρετικά μικροσκοπικά ή διάφανα μπικίνι και, σε μία περίπτωση, απεικονίζοντας μια γυναίκα καλυμμένη με λάδι. Σε επτά ακόμη περιπτώσεις, η ανταπόκριση ήταν μερική, περιοριζόμενη στην αντικατάσταση των ρούχων με εσώρουχα.

Οι ταυτότητες και οι ηλικίες των περισσότερων γυναικών που στοχοποιήθηκαν δεν κατέστη δυνατό να εξακριβωθούν.

Ακόμη σε ένα άλλο περιστατικό, χρήστης υπέβαλε φωτογραφία γυναίκας που φορούσε ρούχα τύπου σχολικής στολής και ζήτησε την αφαίρεσή τους.

Το Grok αντικατέστησε την εμφάνισή της με T-shirt και σορτς, αλλά ο χρήστης προχώρησε ζητώντας να μετατραπεί σε “πολύ διάφανο μπικίνι”.

“Ήταν κάτι απολύτως προβλέψιμο”

Εφαρμογές τεχνητής νοημοσύνης που αλλοιώνουν ψηφιακά εικόνες ώστε να “γδύνουν” γυναίκες υπάρχουν εδώ και χρόνια, αλλά μέχρι πρόσφατα εντοπίζονταν κυρίως σε περιθωριακές πλατφόρμες του διαδικτύου και συχνά απαιτούσαν πληρωμή ή τεχνικές γνώσεις.

Η διαφορά με το X είναι ότι η δυνατότητα αυτή ενσωματώθηκε σε μια μαζική πλατφόρμα, όπου αρκεί η ανάρτηση μιας φωτογραφίας και μια απλή εντολή προς το Grok, μειώνοντας δραστικά το εμπόδιο χρήσης.

Ειδικοί που παρακολουθούν τις πολιτικές του X για περιεχόμενο που παράγεται από AI δήλωσαν στο Reuters ότι η εταιρεία αγνόησε έγκαιρες προειδοποιήσεις οργανώσεων και φορέων προστασίας παιδιών, οι οποίοι είχαν προειδοποιήσει πως η xAI βρισκόταν ένα βήμα πριν από την ανεξέλεγκτη διάδοση μη συναινετικών deepfakes.

“Είχαμε προειδοποιήσει ότι το εργαλείο παραγωγής εικόνων της xAI θα μπορούσε εύκολα να μετατραπεί σε μηχανισμό απογύμνωσης”, δήλωσε ο Τάιλερ Τζόνστον από το The Midas Project. “Αυτό ακριβώς συνέβη”.

Η Ντάνι Πίντερ, από το National Center on Sexual Exploitation, τόνισε ότι το X όφειλε να είχε αφαιρέσει κακοποιητικό υλικό από τα δεδομένα εκπαίδευσης της AI και να είχε απαγορεύσει ρητά τέτοιου είδους αιτήματα. “Ήταν κάτι απολύτως προβλέψιμο και θα μπορούσε να είχε αποτραπεί”, είπε.