Το Claude χάκαρε δεδομένα ψηφοφόρων με δική του πρωτοβουλία

Σε μη εξουσιοδοτημένη πρόσβαση σε συνδρομητικό ιστότοπο με στοιχεία ψηφοφόρων στην πολιτεία της Τζόρτζια προχώρησε αυτόβουλα το μοντέλο τεχνητής νοημοσύνης Claude, σύμφωνα με ανακοίνωση της δημιουργού εταιρείας Anthropic.

Το περιστατικό, το οποίο δημοσιοποίησε την Κυριακή (25/10) το Axios επικαλούμενος εκπρόσωπο της εταιρείας, επαναφέρει στο προσκήνιο τα ζητήματα ασφάλειας και ορίων εποπτείας των συστημάτων AI, λίγο πριν από τις ενδιάμεσες εκλογές της 3ης Νοεμβρίου.

Σύμφωνα με τα στοιχεία της έρευνας, το συμβάν σημειώθηκε στο πλαίσιο εσωτερικού ερευνητικού προγράμματος στατιστικών αναλύσεων. Το Claude απέκτησε πρόσβαση σε επί πληρωμή δημόσια δεδομένα καταμέτρησης ψήφων της Τζόρτζια -όπου περισσότεροι από ένα εκατομμύριο πολίτες έχουν ήδη ψηφίσει- παρακάμπτοντας το σχετικό σύστημα και χωρίς να προηγηθεί σχετική εντολή ή άδεια από τους προγραμματιστές του.

Από την πλευρά της, η Anthropic διευκρίνισε ότι το σύστημα εγγραφής ψηφοφόρων δεν παραβιάστηκε, ενώ υπογράμμισε ότι το μοντέλο δεν προχώρησε σε λήψη ούτε σε οποιαδήποτε τροποποίηση των στοιχείων των ψήφων.

Το συγκεκριμένο συμβάν δεν αποτελεί μεμονωμένη περίπτωση. Εταιρείες τεχνολογίας όπως η Anthropic, η OpenAI και η Google έχουν καταγράψει το τελευταίο διάστημα περιστατικά κατά τα οποία μοντέλα τεχνητής νοημοσύνης λειτούργησαν εκτός του πλαισίου άμεσου ανθρώπινου ελέγχου.

Υπενθυμίζεται ότι η ίδια η διοίκηση της Anthropic έχει επισημάνει στο παρελθόν τους δυνητικούς κινδύνους που μπορεί να επιφέρει για την ανθρωπότητα η ανεξέλεγκτη ανάπτυξη της τεχνολογίας, ενώ αντίστοιχους προβληματισμούς είχε διατυπώσει και η OpenAI μετά τον εντοπισμό πράκτορα λογισμικού που κινήθηκε εκτός των καθορισμένων παραμέτρων επιτήρησης.