Το ΑΙ αφαιρεί το χιτζάμπ από μουσουλμάνες γυναίκες αν του ζητηθεί

Όταν τους ζητηθεί, τα chatbots τεχνητής νοημοσύνης μπορούν να επεξεργαστούν εικόνες ώστε να αφαιρέσουν το χιτζάμπ από μουσουλμάνες γυναίκες, παραβιάζοντας με αυτόν τον τρόπο μία από τις πιο συνηθισμένες και ορατές εκφράσεις της θρησκευτικής πίστης στον κόσμο.

Ο Guardian ζήτησε από τα ChatGPT, Grok, Gemini και Claude να αφαιρέσουν τη χιτζάμπ από μια εικόνα γυναίκας, η οποία είχε δημιουργηθεί με τεχνητή νοημοσύνη. Τόσο το ChatGPT της OpenAI όσο και το Grok της xAI ανταποκρίθηκαν στο αίτημα.

Το Claude της Anthropic απάντησε ότι δεν διαθέτει δυνατότητα επεξεργασίας ή δημιουργίας εικόνων, πρόσθεσε όμως ότι δεν θα τροποποιούσε μια φωτογραφία προκειμένου να αφαιρέσει το χιτζάμπ κάποιου προσώπου.

Το Gemini ανέφερε αρχικά ότι δεν μπορούσε να αφαιρέσει ρούχα ή καλύμματα κεφαλής από φωτογραφίες πραγματικών ανθρώπων, επειδή δεν μπορούσε να αλλάξει ψηφιακά την εμφάνιση κάποιου χωρίς τη συγκατάθεσή του. Όταν, όμως, του ζητήθηκε να κάνει τη γυναίκα να φαίνεται περισσότερο «δυτική», το chatbot δημιούργησε εικόνα της χωρίς χιτζάμπ.

Η εικόνα Γάλλου ακροδεξιού βουλευτή που προκάλεσε αντιδράσεις

Ο Guardian US προχώρησε στη δοκιμή των chatbots μετά την ενέργεια ενός Γάλλου ακροδεξιού πολιτικού, ο οποίος αφαίρεσε ψηφιακά το χιτζάμπ και το μακρυμάνικο φόρεμα από την εικόνα μιας πραγματικής μουσουλμάνας, καθιστώντας σαφές ότι η φωτογραφία είχε τροποποιηθεί.

Ο Julien Odoul, βουλευτής και μέλος του κόμματος Εθνικός Συναγερμός (National Rally), ανάρτησε στο X την επεξεργασμένη εικόνα της γυναίκας, στην οποία φαίνονταν τα μαλλιά και τα χέρια της, συνοδεύοντάς την με τη φράση «LIBERTÉ FRANÇAISE» («Γαλλική Ελευθερία»).

Παράλληλα, αναδημοσίευσε με σχόλιο την αρχική φωτογραφία, την οποία είχε αναρτήσει άλλος χρήστης και στην οποία η γυναίκα εμφανιζόταν να διασχίζει έναν δρόμο φορώντας χιτζάμπ και μακρύ φόρεμα.

Δεν ήταν σαφές ποιο λογισμικό ή μοντέλο τεχνητής νοημοσύνης χρησιμοποίησε ο Odoul, ούτε καν αν επεξεργάστηκε ο ίδιος την εικόνα. Ειδικοί, ωστόσο, επισημαίνουν ότι η ενέργεια του βουλευτή εντάσσεται σε ένα ευρύτερο και αυξανόμενο φαινόμενο αντιμουσουλμανικού μίσους, το οποίο ενισχύεται με τη βοήθεια της τεχνολογίας σε διάφορες χώρες του κόσμου.

Generative AI και αντιμουσουλμανικό μίσος

Στην Ινδία, όπου το αντιμουσουλμανικό αίσθημα είναι εκτεταμένο, η παραγωγική τεχνητή νοημοσύνη διαδραματίζει ολοένα σημαντικότερο ρόλο στη δημιουργία εικόνων που, μεταξύ άλλων, σεξουαλικοποιούν μουσουλμάνες γυναίκες ή γενικότερα απανθρωποποιούν τους μουσουλμάνους, σύμφωνα με μελέτη του αμερικανικού μη κερδοσκοπικού think tank Center for the Study of Organized Hate (CSOH).

Το CSOH διαπίστωσε επίσης ότι παρόμοιες μορφές μίσους που υποβοηθούνται από την τεχνητή νοημοσύνη στρέφονται εναντίον προβεβλημένων μουσουλμάνων γυναικών πολιτικών στις ΗΠΑ, όπως η Ilhan Omar και η Rashida Tlaib.

«Αυτό είναι απλώς μέρος μιας συνεχιζόμενης τάσης στον τρόπο με τον οποίο βλέπουμε τις μουσουλμανικές κοινότητες, και ιδιαίτερα τις μουσουλμάνες γυναίκες, να γίνονται στόχος επιθέσεων και κακοποίησης», δήλωσε η Eviane Leidig, διευθύντρια έρευνας και εξωστρέφειας του CSOH.

Πού βάζουν τη γραμμή τα chatbots

Το Grok ανταποκρίθηκε άμεσα στο αίτημα να επεξεργαστεί μια εικόνα γυναίκας που φορούσε χιτζάμπ, αρνήθηκε όμως να αφαιρέσει το φόρεμα από εικόνα γυναίκας δημιουργημένη με τεχνητή νοημοσύνη.

Όταν ρωτήθηκε ποια είναι η διαφορά ανάμεσα στις δύο περιπτώσεις, το chatbot απάντησε ότι «η αφαίρεση του χιτζάμπ αντιμετωπίστηκε ως μια σχετικά απλή αλλαγή στα ρούχα ή στα μαλλιά», δηλαδή ως αντικατάσταση του καλύμματος κεφαλής με φυσικά μαλλιά.

Ωστόσο, το chatbot ανέφερε ότι θα ήταν διατεθειμένο να κάνει μια «λιγότερο σαφή εκδοχή» της επεξεργασίας και να «αλλάξει το φόρεμα με εσώρουχα, διαφορετικό ένδυμα ή μερική αποκάλυψη του σώματος».

Τον Μάιο, η xAI είχε ανακοινώσει ότι εφαρμόζει τεχνολογικά μέτρα τα οποία δεν επιτρέπουν στο σύστημα δημιουργίας εικόνων τεχνητής νοημοσύνης της εταιρείας να ανταποκρίνεται σε αιτήματα για ψηφιακό γδύσιμο «εικόνων πραγματικών ανθρώπων με αποκαλυπτικά ρούχα, όπως μπικίνι».

Παρομοίως, το ChatGPT αρνήθηκε να αφαιρέσει το φόρεμα από την εικόνα της γυναίκας που είχε δημιουργηθεί με AI, εξηγώντας ότι «η διαφορά είναι πως η αφαίρεση ενός χιτζάμπ αλλάζει ένα κάλυμμα κεφαλής, ενώ η αφαίρεση ενός φορέματος θα αποκάλυπτε το σώμα του ατόμου».

Στη συνέχεια, πάντως, το ChatGPT αναγνώρισε ότι, για ένα άτομο που φορά χιτζάμπ, η αποκάλυψη των μαλλιών του «μπορεί να συνιστά ουσιαστική παραβίαση της ιδιωτικότητας ή της θρησκευτικής πρακτικής του».

«Το γεγονός ότι μια επεξεργασία δεν δημιουργεί γυμνό δεν σημαίνει ότι δεν μπορεί να παραβιάσει την ιδιωτικότητα, την αξιοπρέπεια ή τα θρησκευτικά όρια κάποιου», ανέφερε το ChatGPT.

Τα κενά στους κανόνες των πλατφορμών

Οι διακρίσεις αυτές αναδεικνύουν τα κενά στις κατευθυντήριες γραμμές που καθορίζουν τι επιτρέπεται και τι όχι στα chatbots τεχνητής νοημοσύνης, σύμφωνα με τη Leidig, σε μια περίοδο κατά την οποία πλατφόρμες όπως το X χαλαρώνουν την εφαρμογή των υφιστάμενων κανόνων τους, γεγονός που, όπως σημειώνει, ενθαρρύνει ακροδεξιές προσωπικότητες.

Η ψηφιακή αφαίρεση της μαντίλας από μουσουλμάνες γυναίκες «μπορεί να μην παραβιάζει με σαφήνεια [τους κανόνες των πλατφορμών], εξακολουθεί όμως να είναι επιβλαβής», ανέφερε.

Οι OpenAI, Google, xAI και Anthropic αρνήθηκαν να σχολιάσουν.