Το deepfake porn είναι η νέα μάστιγα στα σχολεία – “Έκανε εμετό από το σοκ”

Το deepfake porn είναι η νέα μάστιγα στα σχολεία, με εκατοντάδες παιδιά σε όλο τον κόσμο να υποφέρουν από τις επιπτώσεις του.

Όπως γράφει ο Guardian, δέκα χρόνια πριν, το πρόβλημα στα σχολεία ήταν το sexting και οι γυμνές φωτογραφίες. Σήμερα, η τεχνητή νοημοσύνη (AI) έχει μετατρέψει σε παιχνίδι για τους μαθητές τη δημιουργία γυμνών εικόνων ή βίντεο deepfake.

“Είδα ένα αγόρι που δημιουργούσε deepfake πορνό δεν ντρεπόταν καν”

Μια διευθύντρια σχολείου περιγράφει πώς “έπιασε” έναν έφηβο να δημιουργεί deepfake porn μέσα στο λεωφορείο και μάλιστα, όπως λέει, δεν φάνηκε να ντρέπεται γι’ αυτό που έκανε.

“Με ανησυχεί που αυτό έχει γίνει τόσο φυσιολογικό. Προφανώς, δεν το έκρυβε. Δεν ένιωθε ότι ήταν κάτι που δεν έπρεπε να κάνει. Αυτό ήταν το πιο σοκαριστικό”, λέει στον Guardian.

Όπως λέει, το αγόρι διάλεξε μια φωτογραφία από τα social media ενός κοριτσιού από γειτονικό σχολείο και χρησιμοποίησε μια εφαρμογή “nudifying” (που αφαιρεί τα ρούχα) για να παραποιήσει την εικόνα της.

Η διευθύντρια δεν γνωρίζει γιατί επιλέχθηκε αυτό το κορίτσι – μαθήτρια στο σχολείο της – αν το αγόρι την ήξερε ή αν ήταν εντελώς τυχαίο.

Το αγόρι εντοπίστηκε, οι γονείς του ενημερώθηκαν και κλήθηκε η αστυνομία. Ωστόσο, λόγω του στίγματος και της ντροπής που συνοδεύει την κακοποίηση μέσω της διανομής deepfakes, οι γονείς του κοριτσιού που ήταν θύμα, αποφάσισαν να μην την ενημερώσουν.

Μάστιγα το deepfake porn στα σχολεία ανά τον κόσμο

Το αγόρι στο λεωφορείο είναι ένα παράδειγμα του πώς τα deepfakes και η εύκολα προσβάσιμη τεχνολογία nudifying επηρεάζουν τους μαθητές – συχνά με καταστροφικά αποτελέσματα.

Στην Ισπανία πέρυσι, 15 αγόρια καταδικάστηκαν σε αναστολή ενός έτους για χρήση AI για τη δημιουργία ψεύτικων γυμνών εικόνων των συμμαθητριών τους, τις οποίες μοιράστηκαν σε ομάδες στο WhatsApp. Περίπου 20 κορίτσια επηρεάστηκαν, τα περισσότερα 14 ετών και η μικρότερη 11.

Στην Αυστραλία, περίπου 50 μαθητές λυκείου στο Bacchus Marsh Grammar ανέφεραν ότι οι εικόνες τους είχαν πλαστογραφηθεί και διανεμηθεί. Η μητέρα μιας μαθήτριας είπε ότι η κόρη της σοκαρίστηκε τόσο από τις deepfake εικόνες που έκανε εμετό.

Στις ΗΠΑ, πάνω από 30 μαθήτριες στο Westfield High School ανακάλυψαν ότι deepfake πορνογραφικές εικόνες τους είχαν κοινοποιηθεί μεταξύ των συμμαθητών τους στο Snapchat.

Στη Βρετανία, νέα έρευνα με 4.300 καθηγητές δευτεροβάθμιας εκπαίδευσης αποκάλυψε ότι περίπου ένας στους δέκα γνώριζε περιστατικά μαθητών που δημιούργησαν deepfake βίντεο τον προηγούμενο χρόνο. Τρία τέταρτα αυτών των περιστατικών αφορούσαν παιδιά 14 ετών ή μικρότερα, ενώ το 10% αφορούσε 11χρονους και το 3% ακόμη μικρότερους.

Έρευνα της Girlguiding έδειξε ότι ένα στα τέσσερα άτομα ηλικίας 13-18 ετών είχε δει deepfake φωτογραφία διάσημου, φίλου, καθηγητή ή του εαυτού του.

Είναι δύσκολο να βρει κανείς καθηγητές που να μιλούν για περιστατικά deepfake. Όσοι μίλησαν στον Guardian ζήτησανν α μην κατονομαστούν.

Η Tanya Horeck, καθηγήτρια σπουδών κινηματογράφου και φεμινιστικών σπουδών στα μέσα ενημέρωσης, διαπίστωσε ότι όλα τα σχολεία είχαν περιστατικά deepfake και θεωρούσαν ότι είναι ένα αναδυόμενο πρόβλημα. Σε μια περίπτωση, μια 15χρονη κοπέλα έγινε στόχος ανδρών μαθητών που δημιούργησαν πορνογραφικό deepfake βίντεο. Η κοπέλα αρχικά αρνιόταν να πάει σχολείο. “Σχεδόν όλα τα παραδείγματα που μου ανέφεραν ήταν αγόρια που δημιουργούσαν deepfakes κοριτσιών”, λέει η Horeck.

Το ψυχολογικό και κοινωνικό κόστος

Η Laura Bates περιγράφει τη βαθιά επίδραση των εικόνων deepfake: “Νιώθεις ότι κάποιος σε πήρε και έκανε κάτι σε σένα και δεν μπορείς να κάνεις τίποτα γι’ αυτό”.

Στα σχολικά περιβάλλοντα, τα κορίτσια νιώθουν ταπεινωμένα και δεν μπορούν να παρακολουθήσουν μαθήματα ενώ τα αγόρια εμπλέκονται σε ποινικά αδικήματα χωρίς να κατανοούν τις συνέπειες.

Το 99% των deepfakes με σεξουαλικό περιεχόμενο αφορά γυναίκες, αλλά υπάρχουν και περιπτώσεις με θύματα αγόρια.

Σύμφωνα με τον Seth James, υπεύθυνο προστασίας μαθητών, η τεχνολογία deepfake και οι εφαρμογές nudify είναι η “επόμενη μεγάλη πρόκληση” για τα σχολεία.

Η Jessica Ringrose, καθηγήτρια κοινωνιολογίας, τονίζει ότι η χρήση της τεχνολογίας από τους νέους δεν είναι πάντα κακή, αλλά χρειάζεται καλύτερη ψηφιακή παιδεία.