Το X μπλοκάρει το Grok AI μετά την κατακραυγή για τα σεξουαλικοποιημένα deepfakes

Το μοντέλο τεχνητής νοημοσύνης Grok του Ίλον Μασκ δεν θα μπορεί πλέον να επεξεργάζεται φωτογραφίες πραγματικών ανθρώπων ώστε να τους εμφανίζει με αποκαλυπτικά ρούχα, μετά την κατακραυγή που προκάλεσε η διάδοση σεξουαλικοποιημένων AI deepfakes.

«Εφαρμόσαμε τεχνολογικά μέτρα για να αποτρέψουμε την επεξεργασία εικόνων πραγματικών ανθρώπων με αποκαλυπτικό περιεχόμενο μέσω του λογαριασμού Grok», αναφέρεται σε ανακοίνωση της X.

Την απόφαση χαιρέτισε η βρετανική κυβέρνηση, η οποία έκανε λόγο για «δικαίωση», μετά την παρέμβαση του πρωθυπουργού Σερ Κιρ Στάρμερ, που είχε καλέσει το X να θέσει υπό έλεγχο το εργαλείο τεχνητής νοημοσύνης του.

Η αλλαγή ανακοινώθηκε λίγες ώρες αφότου ο γενικός εισαγγελέας της Καλιφόρνια δήλωσε ότι η Πολιτεία ερευνά τη διάδοση σεξουαλικοποιημένων deepfakes που δημιουργήθηκαν με AI, μεταξύ των οποίων και εικόνες παιδιών.

«Πλέον μπλοκάρουμε γεωγραφικά τη δυνατότητα όλων των χρηστών να δημιουργούν εικόνες πραγματικών ανθρώπων σε μπικίνι, εσώρουχα ή παρόμοια ενδυμασία μέσω του Grok, στις περιοχές όπου αυτό είναι παράνομο», ανέφερε η X σε ανακοίνωσή της την Τετάρτη.

Η εταιρεία επανέλαβε επίσης ότι μόνο οι συνδρομητές επί πληρωμή θα έχουν τη δυνατότητα επεξεργασίας εικόνων μέσω του Grok στην πλατφόρμα.

Σύμφωνα με την X, το μέτρο προσθέτει ένα επιπλέον επίπεδο προστασίας, διασφαλίζοντας ότι όσοι επιχειρούν να καταχραστούν το Grok για να παραβιάσουν τον νόμο ή τις πολιτικές της πλατφόρμας, θα μπορούν να εντοπίζονται και να λογοδοτούν.

Ο Ίλον Μασκ ανέφερε την Τετάρτη ότι, με ενεργοποιημένες τις ρυθμίσεις NSFW (not safe for work), το Grok επιτρέπεται να εμφανίζει «γυμνό άνω μέρος σώματος μόνο σε φανταστικούς ενήλικες χαρακτήρες και όχι σε πραγματικούς ανθρώπους», στο πλαίσιο όσων προβάλλονται σε ταινίες κατάλληλες άνω των 18 ετών.

«Αυτό αποτελεί το άτυπο πρότυπο στις ΗΠΑ. Σε άλλες χώρες θα ισχύουν διαφορετικοί κανόνες, ανάλογα με την εθνική νομοθεσία», σημείωσε ο δισεκατομμυριούχος επιχειρηματίας.

Νωρίτερα, ο Μασκ είχε υπερασπιστεί την X, υποστηρίζοντας ότι οι επικριτές «απλώς θέλουν να περιορίσουν την ελευθερία του λόγου», αναρτώντας παράλληλα δύο εικόνες που είχαν δημιουργηθεί με AI και απεικόνιζαν τον Βρετανό πρωθυπουργό Σερ Κιρ Στάρμερ με μπικίνι.

Τις τελευταίες ημέρες, η λειτουργία επεξεργασίας εικόνων του Grok έχει δεχθεί έντονη κριτική από κυβερνήσεις σε όλο τον κόσμο. Το περασμένο Σαββατοκύριακο, η Μαλαισία και η Ινδονησία έγιναν οι πρώτες χώρες που απαγόρευσαν το εργαλείο Grok AI, μετά από καταγγελίες ότι φωτογραφίες τροποποιήθηκαν ώστε να δημιουργηθούν άσεμνες εικόνες χωρίς συναίνεση.

Ο γενικός εισαγγελέας της Καλιφόρνια, Ρομπ Μπόντα, δήλωσε: «Το υλικό αυτό, που απεικονίζει γυναίκες και παιδιά σε γυμνές ή σεξουαλικά ρητές καταστάσεις, έχει χρησιμοποιηθεί για τον εκφοβισμό και την παρενόχληση ανθρώπων στο διαδίκτυο».

Η ερευνήτρια πολιτικής τεχνολογίας Ριάνα Φέφερκορν εξέφρασε την έκπληξή της για το γεγονός ότι η X άργησε τόσο να εφαρμόσει τα νέα μέτρα προστασίας, τονίζοντας ότι τα εργαλεία επεξεργασίας εικόνας έπρεπε να είχαν αποσυρθεί από την πρώτη στιγμή που εμφανίστηκαν φαινόμενα κατάχρησης.

Παράλληλα, επισήμανε ότι παραμένουν ερωτήματα σχετικά με το πώς θα εφαρμόζονται στην πράξη οι νέοι κανόνες, όπως το πώς το σύστημα θα αναγνωρίζει αν μια εικόνα αφορά πραγματικό πρόσωπο και ποιες κυρώσεις θα επιβάλλονται σε όσους παραβιάζουν τις πολιτικές της πλατφόρμας.