Η Meta διαφήμιζε εφαρμογή που υποσχόταν να “γδύσει” γυναίκες πολιτικούς

Νέα ερωτήματα για την αποτελεσματικότητα των μηχανισμών ελέγχου της Meta προκαλεί έρευνα του WIRED, σύμφωνα με την οποία η εταιρεία προώθησε στις πλατφόρμες της διαφημίσεις εφαρμογής τεχνητής νοημοσύνης που μπορούσε να χρησιμοποιηθεί για τη δημιουργία σεξουαλικών deepfakes πραγματικών προσώπων, μεταξύ άλλων και γυναικών πολιτικών στις ΗΠΑ.

Πρόκειται για το εργαλείο Kromix, το οποίο διαφημιζόταν ως εφαρμογή «AI image styler». Σε μία από τις διαφημίσεις, η οποία απευθυνόταν αποκλειστικά σε άνδρες, εμφανιζόταν μια γυναίκα που έμοιαζε με γνωστή Αμερικανίδα πολιτικό. Αρχικά εμφανιζόταν μπροστά από αμερικανικές σημαίες και στη συνέχεια η εικόνα μετατρεπόταν σε πορνογραφικό βίντεο.

Η διαφήμιση παρουσίαζε την εφαρμογή ως εργαλείο «χωρίς περιορισμούς», υποστηρίζοντας ότι «όλοι οι χαρακτήρες είναι πραγματικοί άνθρωποι» και χαρακτηρίζοντάς την ως «την AI που χρησιμοποιούν πραγματικά οι άνδρες».

Η εφαρμογή είχε επιπλέον δυνατότητα στους χρήστες να ανεβάζουν φωτογραφίες πραγματικών ανθρώπων και να τις τοποθετούν σε διάφορα σεξουαλικά σενάρια. Το Kromix ήταν διαθέσιμο στο App Store της Apple μέχρι την παρέμβαση του WIRED, ενώ στη συνέχεια αφαιρέθηκε.

32 διαφημίσεις σε Facebook και Instagram

Σύμφωνα με τα στοιχεία της διαφημιστικής βιβλιοθήκης της Meta, ο λογαριασμός που συνδεόταν με την καμπάνια έτρεξε συνολικά 32 διαφημίσεις. Αυτές παρέμειναν ενεργές από πέντε έως 46 ώρες, ενώ οι περισσότερες συγκέντρωσαν λιγότερες από 10 εμφανίσεις.

Οι διαφημίσεις αφαιρέθηκαν αφού το WIRED επικοινώνησε με τη Meta.

Η Katie Paul, διευθύντρια του Tech Transparency Project, που εντόπισε τις διαφημίσεις, εξέφρασε την ανησυχία της για το γεγονός ότι τέτοιο περιεχόμενο μπορεί να χρησιμοποιείται εναντίον γυναικών πολιτικών.

«Όλες οι διαφημίσεις που έχουμε δει μέχρι στιγμής σχετικά με το ζήτημα των εφαρμογών “nudify” αφορούν σεξουαλικοποίηση και μετατροπή γυναικών σε πορνογραφικό υλικό που δημιουργείται από AI», ανέφερε, θέτοντας ερωτήματα για το πώς η Meta θα αντιμετωπίσει το φαινόμενο, ιδιαίτερα όταν στο στόχαστρο βρίσκονται πολιτικά πρόσωπα.

Οι διαφημίσεις φέρεται να χρησιμοποιούσαν συχνά ουδέτερες εικόνες, όπως παραλίες, βουνά και καταρράκτες, ως προεπισκόπηση, ώστε να μην είναι εύκολα αντιληπτό ότι το περιεχόμενο που ακολουθούσε ήταν πορνογραφικό.

Παραβίαση των κανόνων της Meta

Το πρόβλημα είναι ότι οι συγκεκριμένες διαφημίσεις παραβιάζουν ευθέως τους κανόνες της Meta. Η εταιρεία απαγορεύει διαφημίσεις που περιέχουν γυμνό, σεξουαλική δραστηριότητα ή σεξουαλικά υπονοούμενα, ενώ απαγορεύει επίσης τη μη συναινετική χρήση προσωπικών εικόνων και την προώθηση εφαρμογών που μπορούν να «γδύσουν» ψηφιακά ανθρώπους.

Η Cindy Southworth, επικεφαλής του τομέα ασφάλειας των γυναικών στη Meta, δήλωσε ότι η εταιρεία αντιμετωπίζει επιθετικά τη σεξουαλική εκμετάλλευση και έχει αφαιρέσει περισσότερες από 340.000 διαφημίσεις που προωθούσαν εφαρμογές «nudify».

«Ωστόσο, κανένα σύστημα δεν είναι τέλειο και συνεχίζουμε να διερευνούμε πώς κατάφεραν αυτές οι διαφημίσεις να παρακάμψουν τα συστήματά μας και πώς μπορούμε να τα βελτιώσουμε», ανέφερε.

Το περιστατικό δεν είναι μεμονωμένο. Το WIRED έχει εντοπίσει και στο παρελθόν δεκάδες διαφημίσεις στις πλατφόρμες της Meta που περιείχαν υλικό σεξουαλικής κακοποίησης παιδιών δημιουργημένο με AI. Οι διαφημίσεις αφαιρέθηκαν μετά την επικοινωνία του μέσου με την εταιρεία.

Αφαιρέθηκε και από το App Store

Η Apple επιβεβαίωσε ότι αφαίρεσε το Kromix από το App Store, υποστηρίζοντας ότι η εφαρμογή είχε προσθέσει απαγορευμένο περιεχόμενο και λειτουργίες μετά τον αρχικό έλεγχο.

«Πάντα απαγορεύαμε αυστηρά εφαρμογές που έχουν σχεδιαστεί για τη δημιουργία, διανομή ή κατανάλωση πορνογραφικού υλικού», δήλωσε εκπρόσωπος της εταιρείας.

Ερευνητές επισημαίνουν ότι η τεχνολογία deepfake έχει καταστήσει πολύ πιο εύκολη τη δημιουργία και διανομή μη συναινετικού σεξουαλικού περιεχομένου, με γυναίκες πολιτικούς και άλλες δημόσιες προσωπικότητες να βρίσκονται συχνά στο στόχαστρο.

Ο Benjamin Shultz, ερευνητής του American Sunlight Project, σημειώνει ότι φωτογραφίες που μέχρι πρόσφατα θεωρούνταν απολύτως αθώες, όπως επίσημα πορτρέτα ή στιγμιότυπα από συνεντεύξεις Τύπου, μπορούν πλέον να χρησιμοποιηθούν ως πρώτη ύλη για εργαλεία AI που είναι διαθέσιμα σχεδόν σε οποιονδήποτε έχει πρόσβαση στο διαδίκτυο.