Σάλος για τα chatbots της Meta – Καταγγελίες για “ρομαντικές συνομιλίες με παιδιά”

Αντιδράσεις προκαλεί στις ΗΠΑ εσωτερικό έγγραφο πολιτικής της Meta που αποκάλυψε το Reuters, σύμφωνα με το οποίο τα chatbots του τεχνολογικού κολοσσού επιτρεπόταν να εμπλέκονται σε «ρομαντικού ή αισθησιακού χαρακτήρα συνομιλίες» με ανήλικους, να παράγουν ψευδείς ιατρικές πληροφορίες και να διευκολύνουν χρήστες να διατυπώνουν ρατσιστικά επιχειρήματα.

Η δημοσιοποίηση των εγγράφων προκάλεσε κύμα αντιδράσεων. Ο τραγουδιστής Neil Young ανακοίνωσε, μέσω της δισκογραφικής του Reprise Records, ότι διακόπτει κάθε παρουσία στο Facebook, καταγγέλλοντας πως η χρήση τέτοιων chatbots με παιδιά είναι «ασυγχώρητη».

«Ο κ. Young δεν θέλει καμία περαιτέρω σύνδεση με τη Meta», αναφέρεται στη σχετική ανακοίνωση.

Η υπόθεση πυροδότησε πολιτική θύελλα στην Ουάσινγκτον. Ο Ρεπουμπλικανός γερουσιαστής Τζος Χόλι ανακοίνωσε την έναρξη έρευνας για το εάν η Meta παραπλάνησε το κοινό και τις αρχές, ζητώντας απαντήσεις από τον Μαρκ Ζούκερμπεργκ για το αν τα εργαλεία τεχνητής νοημοσύνης της εταιρείας «ενθαρρύνουν εκμετάλλευση, εξαπάτηση ή άλλες εγκληματικές πράξεις σε βάρος παιδιών». Την έρευνα στηρίζει και η Ρεπουμπλικανή γερουσιαστής Μάρσα Μπλάκμπερν.

Από την πλευρά των Δημοκρατικών, ο γερουσιαστής Ρον Γουάιντεν χαρακτήρισε τις αποκαλύψεις «βαθιά ανησυχητικές» και ζήτησε να μην προστατεύεται η Meta από το περίφημο άρθρο 230 –τη νομική ασπίδα που απαλλάσσει τις διαδικτυακές πλατφόρμες από ευθύνη για το περιεχόμενο που δημοσιεύουν οι χρήστες.

«Ο Ζούκερμπεργκ πρέπει να λογοδοτήσει πλήρως για οποιαδήποτε βλάβη προκαλούν αυτά τα bots», τόνισε.

Τι αποκάλυψε το εσωτερικό έγγραφο

Το επίμαχο έγγραφο, 200 σελίδων, έφερε τον τίτλο «GenAI: Content Risk Standards» και είχε εγκριθεί από νομικά, πολιτικά και τεχνικά στελέχη της Meta, ακόμη και από τον επικεφαλής ηθικής.

Περιέγραφε με λεπτομέρεια τι θεωρείται «αποδεκτή» συμπεριφορά για τα chatbots, αν και διευκρίνιζε ότι δεν πρόκειται για «ιδανικά» παραδείγματα.

Σε ορισμένα σημεία, μάλιστα, αναφερόταν πως θα μπορούσε να θεωρηθεί αποδεκτό ένα bot να λέει σε ένα οκτάχρονο παιδί «κάθε σπιθαμή σου είναι ένα αριστούργημα – ένας θησαυρός που λατρεύω». Την ίδια ώρα, το κείμενο απαγόρευε εκφράσεις που περιγράφουν παιδιά ως «σεξουαλικά επιθυμητά».

Εκτός από τις συνομιλίες με ανήλικους, οι κατευθυντήριες γραμμές αφορούσαν και ζητήματα όπως η ρητορική μίσους, η παραγωγή σεξουαλικοποιημένων εικόνων δημόσιων προσώπων, η βία, αλλά και η παραγωγή ψευδών πληροφοριών – υπό την προϋπόθεση ότι δηλώνεται ρητά πως το περιεχόμενο είναι αναληθές.

Η θέση της Meta

Η εταιρεία επιβεβαίωσε την αυθεντικότητα του εγγράφου, αλλά υποστήριξε ότι τα επίμαχα αποσπάσματα έχουν πλέον αφαιρεθεί.

«Τα παραδείγματα που δημοσιοποιήθηκαν ήταν λανθασμένα και ασύμβατα με τις πολιτικές μας», ανέφερε εκπρόσωπος της Meta, παραδεχόμενος ωστόσο ότι η εφαρμογή των κανόνων «δεν ήταν πάντα συνεπής».

Η συζήτηση αναζωπυρώνεται και από μια τραγωδία που αποκαλύφθηκε πριν λίγες ημέρες: ένας 76χρονος από το Νιου Τζέρσεϊ πείστηκε ότι συνομιλούσε με πραγματικό πρόσωπο στο Messenger –την «Big sis Billie»– και ξεκίνησε για να τη συναντήσει στη Νέα Υόρκη. Στον δρόμο τραυματίστηκε σοβαρά και λίγες ημέρες αργότερα κατέληξε.

Η Meta δεν σχολίασε τον θάνατό του ούτε απάντησε στο ερώτημα γιατί τα chatbots επιτρέπεται να παρουσιάζονται ως αληθινοί άνθρωποι ή να ξεκινούν ρομαντικές συζητήσεις.

Με τη Meta να ετοιμάζεται να δαπανήσει 65 δισ. δολάρια φέτος για επενδύσεις στην τεχνητή νοημοσύνη, οι αποκαλύψεις αυτές εγείρουν σοβαρά ερωτήματα για το πώς τίθενται τα όρια και ποιος φέρει την ευθύνη για τη χρήση των ισχυρών αυτών εργαλείων – ιδίως όταν εμπλέκονται παιδιά και ευάλωτοι χρήστες.