Το Claude της Anthropic υπέβαλε ψευδή πληροφορία στην αστυνομία για ανεξιχνίαστη δολοφονία

Ένα ακόμη περιστατικό απρόβλεπτης συμπεριφοράς συστημάτων τεχνητής νοημοσύνης (AI) ήρθε στο φως στις ΗΠΑ, καθώς μοντέλο της εταιρείας Anthropic υπέβαλε ψευδή πληροφορία σε ιστοσελίδα της αστυνομίας της Φιλαδέλφειας, σχετικά με ανεξιχνίαστη υπόθεση ανθρωποκτονίας.

Το συμβάν επιβεβαιώθηκε τόσο από την εταιρεία όσο και από τις αστυνομικές αρχές, εντείνοντας τις ανησυχίες για τη δυνατότητα αυτόνομων συστημάτων AI να αλληλεπιδρούν με κυβερνητικές ιστοσελίδες και να προβαίνουν σε ενέργειες που δεν προβλέπονται από τις αρχικές οδηγίες τους, όπως λέει και ο ΑΡ.

Σύμφωνα με την Anthropic, το περιστατικό σημειώθηκε στις 18 Ιουλίου, όταν στο μοντέλο Claude Haiku 4.5 είχε ανατεθεί να δημιουργήσει και να εκτελέσει δοκιμαστικές εργασίες σε τυχαία επιλεγμένες ιστοσελίδες.

Κατά τη διαδικασία, το Claude συμπλήρωσε και υπέβαλε φόρμα στον ιστότοπο PhillyUnsolvedMurders.com, δηλώνοντας ότι ενδέχεται να διαθέτει πληροφορίες για μία από τις ανεξιχνίαστες δολοφονίες που παρουσιάζονται εκεί.

Η αστυνομία εντόπισε την ψευδή αναφορά στα ανεπιθύμητα μηνύματα

Η Αστυνομία της Φιλαδέλφειας ανακοίνωσε ότι δεν γνώριζε το περιστατικό έως την Τετάρτη, όταν ενημερώθηκε από την Anthropic.

Έπειτα από έλεγχο, οι αρχές εντόπισαν την υποβολή στα αρχεία αναφορών της ιστοσελίδας και διαπίστωσαν ότι είχε χαρακτηριστεί ως ανεπιθύμητο μήνυμα (spam) και δεν είχε προωθηθεί στους αστυνομικούς.

Σε ανακοίνωσή της, η αστυνομία υπογράμμισε τη σοβαρότητα τέτοιων περιστατικών, επισημαίνοντας ότι οι ανεξιχνίαστες ανθρωποκτονίες αφορούν πραγματικά θύματα και οικογένειες που εξακολουθούν να αναζητούν απαντήσεις.

«Οι ανεξιχνίαστες υποθέσεις αφορούν πραγματικά θύματα, οικογένειες που πενθούν και ερευνητές που προσπαθούν να βρουν απαντήσεις», ανέφερε.

«Οι εταιρείες τεχνολογίας οφείλουν να λαμβάνουν όλα τα κατάλληλα μέτρα ώστε να αποτρέπουν τα συστήματά τους από την υποβολή ψευδών πληροφοριών στις αρχές επιβολής του νόμου», πρόσθεσε.

Το πρόβλημα με τα συστήματα AI που παρακάμπτουν περιορισμούς

Το περιστατικό εντάσσεται σε μια σειρά περιπτώσεων κατά τις οποίες μοντέλα τεχνητής νοημοσύνης προχώρησαν σε ενέργειες που δεν προβλέπονταν από τις οδηγίες τους, κατά τη διάρκεια δοκιμών.

Σε έκθεση που δημοσιοποίησε την Παρασκευή, η Anthropic αποκάλυψε και ένα δεύτερο περιστατικό, κατά το οποίο μοντέλο της υπέβαλε φόρμες σε κυβερνητική ιστοσελίδα, της οποίας η ταυτότητα δεν αποκαλύφθηκε, αντί να σταματήσει πριν από την οριστική υποβολή τους.

Η εταιρεία εξήγησε ότι οι περισσότερες από αυτές τις συμπεριφορές συνδέονται με αυτό που αποκαλεί «επιμονή» (persistence).

Πρόκειται για περιπτώσεις στις οποίες το Claude, όταν αδυνατεί να ολοκληρώσει μια εργασία σύμφωνα με τις οδηγίες που έχει λάβει, επιχειρεί να παρακάμψει έναν περιορισμό αντί να σταματήσει.

Η Anthropic ανακοίνωσε ότι προχωρά σε αλλαγές στη διαδικασία εκπαίδευσης των μοντέλων της, με στόχο να περιορίσει την πιθανότητα επανάληψης παρόμοιων συμπεριφορών.

Ενημερώθηκε και ο Λευκός Οίκος

Οι αποκαλύψεις έρχονται σε μια περίοδο αυξανόμενου προβληματισμού για τη χρήση αυτόνομων συστημάτων τεχνητής νοημοσύνης, τα οποία μπορούν να περιηγούνται σε ιστοσελίδες, να συμπληρώνουν φόρμες και να εκτελούν ενέργειες χωρίς συνεχή ανθρώπινη επίβλεψη.

Οι ανησυχίες αφορούν ιδιαίτερα την αλληλεπίδρασή τους με κυβερνητικές πλατφόρμες και ευαίσθητα δεδομένα, όπως πληροφορίες που σχετίζονται με την υγειονομική περίθαλψη.

Τον Σεπτέμβριο, η OpenAI είχε δημοσιοποιήσει έξι αναφορές για «απροσδόκητη ή ανησυχητική» συμπεριφορά μοντέλων τεχνητής νοημοσύνης, ενισχύοντας τη συζήτηση για την ανάγκη αυστηρότερων κανόνων ελέγχου.

Η Anthropic γνωστοποίησε ότι ενημέρωσε τον Λευκό Οίκο για περιστατικά που αφορούσαν αμερικανικές κυβερνητικές υπηρεσίες σε ομοσπονδιακό, πολιτειακό και τοπικό επίπεδο.

Παράλληλα, σύμφωνα με την εταιρεία, ενημερώθηκαν ξεχωριστά όλες οι υπηρεσίες που επηρεάστηκαν από τα συγκεκριμένα συμβάντα.