Επιζήσασα παιδικής σεξουαλικής κακοποίησης μηνύει την εταιρεία τεχνητής νοημοσύνης του Μασκ

Επιζήσασα παιδικής σεξουαλικής κακοποίησης κατέθεσε αγωγή κατά της εταιρείας τεχνητής νοημοσύνης του Ίλον Μασκ, υποστηρίζοντας ότι το chatbot της, Grok, χρησιμοποίησε φωτογραφίες από την κακοποίησή της για να δημιουργήσει νέο παράνομο πορνογραφικό υλικό που την απεικονίζει.

«Χρησιμοποιώντας πραγματικές εικόνες της ενάγουσας και των μελών της ομάδας, το Grok δημιούργησε παιδικό πορνογραφικό υλικό που απεικονίζει την ενάγουσα και τα μέλη της ομάδας», αναφέρεται στην αγωγή, η οποία κατατέθηκε την περασμένη εβδομάδα σε ομοσπονδιακό δικαστήριο της Καλιφόρνιας.

Οι δικηγόροι της ενάγουσας, η οποία αναφέρεται στην υπόθεση ως Jane Doe προκειμένου να προστατευθεί η ταυτότητά της, κατηγορούν την xAI τόσο για τη δημιουργία υλικού παιδικής σεξουαλικής κακοποίησης (CSAM) με θύμα την πελάτισσά τους, όσο και για την ενσωμάτωση φωτογραφιών κακοποίησης στις βάσεις δεδομένων εκπαίδευσης της εταιρείας, μετά τη δημόσια ανάρτηση νέων εικόνων.

Η αγωγή υποστηρίζει ότι η xAI αγνόησε τις πρακτικές ασφαλείας που αποτελούν πρότυπο στον κλάδο για την προστασία από υλικό σεξουαλικής κακοποίησης παιδιών, με αποτέλεσμα υλικό που δημιουργήθηκε από τεχνητή νοημοσύνη να εμφανιστεί και να διαδοθεί στην πλατφόρμα κοινωνικής δικτύωσης X (πρώην Twitter).

Παρότι ο Μασκ είχε δηλώσει τον Ιανουάριο ότι δεν γνώριζε ποτέ το Grok να έχει δημιουργήσει «γυμνές εικόνες ανηλίκων», η εταιρεία του μήνυσε στα τέλη Αυγούστου δύο χρήστες της, οι οποίοι αντιμετωπίζουν ποινικές κατηγορίες ότι έκαναν ακριβώς αυτό. Η xAI ζητά από τους δύο άνδρες να καλύψουν τα έξοδα των αγωγών που έχουν καταθέσει εναντίον της εταιρείας τα θύματά τους, αναφέρει ο Guardian.

Μία διαφορετική υπόθεση

Η συγκεκριμένη υπόθεση διαφοροποιείται από άλλες αγωγές κατά της xAI που σχετίζονται με παιδική σεξουαλική κακοποίηση, καθώς κατηγορεί την εταιρεία ότι η τεχνητή νοημοσύνη της χρησιμοποίησε ήδη υπάρχον υλικό CSAM για να δημιουργήσει και να διανείμει νέες εικόνες παιδικής σεξουαλικής κακοποίησης.

Προηγούμενες αγωγές, όπως εκείνη που αφορούσε ομάδα εφήβων από το Τενεσί, κατηγορούσαν το Grok ότι λάμβανε μη αποκαλυπτικές φωτογραφίες ανηλίκων και τις μετέτρεπε σε υλικό σεξουαλικής κακοποίησης, κυρίως αφαιρώντας τα ρούχα τους.

Η διαφορά στη χρήση ήδη υπάρχοντος υλικού CSAM θεωρείται σημαντική, καθώς οι αρχές επιβολής του νόμου και οι οργανώσεις προστασίας παιδιών συχνά αποδίδουν σε αυτά τα παράνομα αρχεία ένα είδος ψηφιακού αποτυπώματος, γνωστό ως hash, το οποίο επιτρέπει τον εντοπισμό εικόνων και βίντεο όταν εμφανίζονται ξανά στο διαδίκτυο.

Στην παρούσα υπόθεση, οι δικηγόροι της ενάγουσας αναφέρουν ότι το Καναδικό Κέντρο Προστασίας Παιδιών χρησιμοποίησε τα ψηφιακά αποτυπώματα των εικόνων για να εντοπίσει υλικό CSAM που δημιουργήθηκε από τεχνητή νοημοσύνη στην πλατφόρμα X και απεικόνιζε την πελάτισσά τους.

Σύμφωνα με την αγωγή, η ενάγουσα ήταν σε ηλικία προσχολικής ηλικίας όταν ένας ενήλικας άνδρας τη βίασε επανειλημμένα και την εξανάγκασε να παράγει υλικό παιδικής σεξουαλικής κακοποίησης. Η συγκεκριμένη σειρά εικόνων κυκλοφορεί στο διαδίκτυο εδώ και περίπου 20 χρόνια και είναι ιδιαίτερα γνωστή τόσο στις αρχές όσο και στις οργανώσεις προστασίας παιδιών, σύμφωνα με τους δικηγόρους της.

«Η διαφορά εδώ σε σχέση με πολλές ποινικές υποθέσεις που αφορούν υλικό δημιουργημένο από τεχνητή νοημοσύνη είναι ότι συνήθως δεν μπορείς να αποδείξεις πως το παιδί που εμφανίζεται στο υλικό είναι πραγματικό. Όμως εδώ, επειδή μπορείς να το συνδέσεις με τη συγκεκριμένη σειρά εικόνων, γνωρίζουμε ότι πρόκειται για ένα αναγνωρίσιμο θύμα που είναι ακόμη ζωντανό και ήταν πραγματικό παιδί στη φωτογραφία», δήλωσε η δικηγόρος της ενάγουσας, Μάργκαρετ Μέιμπι.

Ούτε η xAI ούτε η SpaceX, η οποία εξαγόρασε την εταιρεία τον Φεβρουάριο, απάντησαν σε αιτήματα για σχολιασμό της αγωγής.

Η SpaceX εισήχθη στο χρηματιστήριο νωρίτερα φέτος, με την αρχική δημόσια προσφορά να αποτιμά την εταιρεία περίπου στα 1,7 τρισεκατομμύρια δολάρια, καθιστώντας για ένα διάστημα τον Μασκ τον μοναδικό τρισεκατομμυριούχο στον κόσμο.

Η xAI βρίσκεται αντιμέτωπη με πολλές αγωγές που την κατηγορούν για δημιουργία και διανομή υλικού παιδικής σεξουαλικής κακοποίησης. Πολλές από αυτές σχετίζονται με μια περίοδο στις αρχές του έτους, όταν οι ανεπαρκείς δικλίδες ασφαλείας του Grok επέτρεπαν στους χρήστες να ζητούν από το chatbot να αφαιρεί ρούχα από φωτογραφίες και να δημιουργεί σεξουαλικοποιημένες εικόνες μέσω της πλατφόρμας X.

Τον Ιανουάριο, ο Μασκ είχε δηλώσει ότι η λειτουργία NSFW του Grok προοριζόταν να επιτρέπει «γυμνό στο πάνω μέρος του σώματος φανταστικών ενηλίκων ανθρώπων».

Σύμφωνα με ερευνητές του Center for Countering Digital Hate, το chatbot δημιούργησε εκατομμύρια σεξουαλικοποιημένες εικόνες μέσα σε λίγες εβδομάδες, μεταξύ των οποίων και χιλιάδες που απεικόνιζαν παιδιά.

Παρότι η συλλογική αγωγή που κατατέθηκε την περασμένη εβδομάδα επικεντρώνεται στην ανώνυμη βασική ενάγουσα, το κείμενο αναφέρει ότι η ομάδα των θυμάτων μπορεί να περιλαμβάνει «τουλάχιστον χιλιάδες ανηλίκους» που υπέστησαν παρόμοια βλάβη.

Οι δικηγόροι υποστηρίζουν ότι η χρήση τεχνητής νοημοσύνης για την παραγωγή υλικού παιδικής σεξουαλικής κακοποίησης δημιουργεί ένα νέο επίπεδο απειλών για την ασφάλεια και την ψυχική υγεία των θυμάτων, καθώς τα εκθέτει σε απρόβλεπτες νέες μορφές βλάβης και τα επανατραυματίζει κάθε φορά που δημιουργείται μια νέα εικόνα.

«Το πρόβλημα εδώ είναι ότι, τουλάχιστον για την πελάτισσά μας, τα τελευταία 20 χρόνια το σύμπαν των εικόνων της ήταν περιορισμένο. Ο φόβος τώρα είναι ότι νέες εγκληματικές πράξεις, νέες προσβλητικές συμπεριφορές, νέες ιδέες για το τι μπορεί να γίνει εις βάρος της μπορούν πλέον να δημιουργηθούν μέσω της τεχνητής νοημοσύνης. Μπορούν να δημιουργήσουν νέα κακοποίηση», δήλωσε η Μέιμπι.

Το Καναδικό Κέντρο Προστασίας Παιδιών αρνήθηκε να σχολιάσει την υπόθεση.