Το Grok απενεργοποιεί τη δημιουργία φωτογραφιών μετά από καταγγελίες για σεξουαλικοποιημένες εικόνες γυναικών

Το εργαλείο τεχνητής νοημοσύνης Grok του Ίλον Μασκ απενεργοποίησε τη λειτουργία δημιουργίας εικόνας για τη συντριπτική πλειονότητα των χρηστών του, μετά από ευρεία κατακραυγή για τη χρήση του στην παραγωγή σεξουαλικοποιημένων φωτογραφιών γυναικών. Η απόφαση έρχεται μετά από απειλές για πρόστιμα, κανονιστική δράση και αναφορές για ενδεχόμενο μπλοκάρισμα της εφαρμογής X στο Ηνωμένο Βασίλειο.

Το εργαλείο είχε χρησιμοποιηθεί για να τροποποιήσει εικόνες γυναικών, αφαιρώντας τα ρούχα τους και τοποθετώντας τους σε σεξουαλικές στάσεις. Η λειτουργία αυτή έχει πλέον απενεργοποιηθεί, εκτός από τους συνδρομητές που πληρώνουν.

Αναρτώντας στο X, το κοινωνικό δίκτυο του Μασκ, το Grok ανέφερε: «Η δημιουργία και επεξεργασία εικόνας είναι προς το παρόν διαθέσιμη μόνο στους συνδρομητές που πληρώνουν». Αυτό σημαίνει ότι η συντριπτική πλειονότητα των χρηστών της πλατφόρμας δεν μπορούν να δημιουργούν εικόνες μέσω του Grok, ενώ αυτοί που το κάνουν έχουν καταχωρημένα τα προσωπικά τους στοιχεία και πληροφορίες πιστωτικών καρτών στο X, γεγονός που επιτρέπει την αναγνώρισή τους σε περίπτωση κακής χρήσης της λειτουργίας.

Η έρευνα που δημοσιεύθηκε από τον Guardian που αποκάλυψε ότι το Grok χρησιμοποιήθηκε για τη δημιουργία πορνογραφικών βίντεο γυναικών χωρίς τη συγκατάθεσή τους, καθώς και εικόνες γυναικών που πυροβολούν ή σκοτώνουν.

Ο Μασκ αντιμετωπίζει απειλές για κανονιστική δράση από διάφορες χώρες μετά τη χρήση του Grok για τη δημιουργία μη συναινετικών σεξουαλικών εικόνων.

Ο Βρετανός πρωθυπουργός Κιρ Στάρμερ δήλωσε την Τετάρτη ότι θα πάρει αυστηρά μέτρα κατά της κοινωνικής πλατφόρμας. Ζήτησε από το X να «αναλάβει δράση» απέναντι στην πλημμύρα των AI-δημιουργημένων εικόνων γυναικών και παιδιών με ημίγυμνα σώματα, χαρακτηρίζοντας το περιεχόμενο «ντροπιαστικό» και «αηδιαστικό».

Ο Στάρμερ ανέφερε ότι η ρυθμιστική αρχή επικοινωνιών Ofcom «έχει την πλήρη υποστήριξή μας για να αναλάβει δράση» και πρόσθεσε: «Είναι παράνομο. Δεν θα το ανεχτούμε. Έχω ζητήσει να εξεταστούν όλες οι επιλογές. Είναι απαράδεκτο. Το X πρέπει να αναλάβει τις ευθύνες του και να κατεβάσει αυτό το υλικό. Θα αναλάβουμε δράση, γιατί απλώς δεν είναι αποδεκτό».

Χιλιάδες σεξουαλικές εικόνες γυναικών έχουν δημιουργηθεί χωρίς τη συγκατάθεσή τους τα τελευταία δύο εβδομάδες, μετά την αναβάθμιση της λειτουργίας δημιουργίας εικόνας του Grok στα τέλη Δεκεμβρίου.