Η Βρετανία ερευνά το “Χ” του Μασκ για το ακατάλληλο περιεχόμενο του Grok

Η Ofcom έχει ξεκινήσει έρευνα εις βάρος της πλατφόρμας “X” του Ίλον Μασκ, προκειμένου να διαπιστώσει αν έχει συμμορφωθεί ή όχι με τη νομοθεσία για την ασφάλεια στο διαδίκτυο.

Σε ανακοίνωσή της, η βρετανική αρχή εποπτείας της διαδικτυακής ασφάλειας δήλωσε ότι υπήρξαν «βαθιά ανησυχητικές αναφορές» σύμφωνα με τις οποίες το chatbot τεχνητής νοημοσύνης Grok της πλατφόρμας “X” χρησιμοποιήθηκε για τη δημιουργία και τη διακίνηση γυμνών εικόνων ανθρώπων, καθώς και «σεξουαλικοποιημένων εικόνων παιδιών».

Το Grok, που κυκλοφόρησε το 2023, είναι δωρεάν για χρήση στο X, ενώ το περασμένο καλοκαίρι η εταιρεία πρόσθεσε την επίμαχη εφαρμογή Grok Imagine, η οποία με την «λειτουργία spicy» παράγει πορονογραφικές εικόνες γυναικών σε άσεμνες πόζες, ακόμη και παιδιών, αλλοιώνοντας ή τροποποιώντας φωτογραφίες και βίντεο αληθινών προσώπων.

Η λειτουργία αυτή προκάλεσε σωρεία καταγγελιών για τη δημιουργία μη συναινετικών σεξουαλικών deepfakes, τα οποία συνιστούν σοβαρή παραβίαση των ανθρωπίνων δικαιωμάτων, της αξιοπρέπειας και της ασφάλειας των πολιτών στον ψηφιακό χώρο.

Τα αρχικά ευρήματα ερευνών που έγιναν στη νοτιοανατολική Ασία σχετικά με τις καταγγελίες, έδειξαν ότι το Grok δεν διαθέτει αποτελεσματικές δικλείδες ασφαλείας για να εμποδίσει τους χρήστες να δημιουργούν και να διανέμουν πορνογραφικό περιεχόμενο βασισμένο σε πραγματικές φωτογραφίες.