“Μπλόκο” της κυβέρνησης Τραμπ στο νέο μοντέλο AI της Anthropic για λόγους “εθνικής ασφαλείας”

Σε μια αιφνιδιαστική κίνηση, η εταιρεία τεχνητής νοημοσύνης Anthropic προχώρησε στην αναστολή της λειτουργίας του νέου και ισχυρού της μοντέλου, Claude Fable 5, μόλις λίγες ημέρες μετά την επίσημη κυκλοφορία του στο κοινό, έπειτα από σοβαρές ανησυχίες που εξέφρασαν οι αμερικανικές αρχές για θέματα εθνικής ασφαλείας.

Σε ανακοίνωση που εξέδωσε μέσω της ιστοσελίδας της, η Anthropic ανέφερε ότι της δόθηκε εντολή να αποκλείσει τους ξένους υπηκόους από τη χρήση του Claude Fable 5, ενός προγράμματος το οποίο η ίδια η εταιρεία είχε χαρακτηρίσει στο παρελθόν ως “υπερβολικά ισχυρό”.

«Το άμεσο αποτέλεσμα αυτής της εντολής είναι ότι πρέπει να απενεργοποιήσουμε απότομα τα Fable 5 και Mythos 5 για όλους τους πελάτες μας, προκειμένου να διασφαλίσουμε τη συμμόρφωσή μας με τον νόμο», σημειώνει η εταιρεία.

Η εξέλιξη αυτή έρχεται εν μέσω μιας παράλληλης δικαστικής διαμάχης μεταξύ της Anthropic και της κυβέρνησης Τραμπ, η οποία αφορά εντολή απαγόρευσης χρήσης των εργαλείων της εταιρείας από κυβερνητικές υπηρεσίες.

Το Claude Fable 5 αποτελεί έκδοση του προγράμματος Claude Mythos της Anthropic, το οποίο ανταγωνίζεται ευθέως το ChatGPT της OpenAI και το Gemini της Google.

Το παρασκήνιο της απαγόρευσης

Σύμφωνα με την Anthropic, οι αμερικανικές αρχές εθνικής ασφαλείας δεν έχουν προσδιορίσει ακόμη συγκεκριμένες απειλές.

«Απ’ όσα καταλαβαίνουμε, η κυβέρνηση θεωρεί ότι εντόπισε μια μέθοδο παράκαμψης των περιορισμών ασφαλείας (jailbreaking) του Fable 5», ανέφερε η εταιρεία.

Ο όρος “jailbreaking” αναφέρεται στη διαδικασία παράκαμψης των λογισμικών περιορισμών που προστατεύουν ένα δίκτυο κυβερνοασφάλειας, επιτρέποντας σε χάκερ να αποκτήσουν πρόσβαση σε ευαίσθητες πληροφορίες ή να ξεκλειδώσουν κλειδωμένες λειτουργίες.

«Εξετάσαμε μια επίδειξη αυτής της συγκεκριμένης τεχνικής, η οποία χρησιμοποιήθηκε για τον εντοπισμό ενός μικρού αριθμού ήδη γνωστών, ήσσονος σημασίας τρωτών σημείων», απαντά η Anthropic, συμπληρώνοντας: «Αυτές οι ευπάθειες φαίνονται σχετικά απλές και έχουμε διαπιστώσει ότι και άλλα μοντέλα που είναι διαθέσιμα στο κοινό μπορούν επίσης να τις εντοπίσουν, χωρίς να απαιτείται παράκαμψη του συστήματος».

Όπως μεταδίδει το BBC, πριν από την κυκλοφορία του Claude Fable 5, η εταιρεία είχε διαφημίσει έντονα τις διάφορες “δικλίδες ασφαλείας” που είχε εφαρμόσει για την αποτροπή κυβερνοεπιθέσεων.

Ωστόσο, ηγέτες από τον χρηματοπιστωτικό τομέα, την τεχνολογία και την κυβέρνηση είχαν εκφράσει έντονες ανησυχίες για τη δημόσια διάθεσή του. Είχε προηγηθεί μια περιορισμένη, δοκιμαστική κυκλοφορία τον Απρίλιο, με σκοπό τον εντοπισμό αδυναμιών στο σύστημα.

Η Anthropic εξήγησε ότι επέτρεψε την πρόσβαση πριν από την επίσημη κυκλοφορία μόνο σε έναν περιορισμένο αριθμό οργανισμών, καθώς το εργαλείο είναι τόσο ευφυές που θα μπορούσε να γίνει επικίνδυνο λόγω της ικανότητάς του να εκμεταλλεύεται ή να χακάρει υπολογιστικά συστήματα.

Μάλιστα, η ίδια η εταιρεία είχε δηλώσει προηγουμένως ότι το μοντέλο ήταν “υπερβολικά ισχυρό για να κυκλοφορήσει”, κάτι που ορισμένοι επικριτές απέδωσαν σε επικοινωνιακά τεχνάσματα και маркеτινγκ.

«Οι δυνατότητες του Fable ξεπερνούν εκείνες οποιουδήποτε άλλου μοντέλου έχουμε διαθέσει ποτέ στο ευρύ κοινό», επιμένει η εταιρεία.

Το beef με την κυβέρνηση Τραμπ

Η Anthropic βρίσκεται το τελευταίο διάστημα στο στόχαστρο της αμερικανικής κυβέρνησης. Ο Ντόναλντ Τραμπ έχει ασκήσει δημόσια κριτική στην εταιρεία, ενώ ο Υπουργός Άμυνας των ΗΠΑ, Πιτ Χέγκσεθ, τη χαρακτήρισε “κίνδυνο για την εφοδιαστική αλυσίδα”, κάτι που συμβαίνει για πρώτη φορά στα χρονικά με αμερικανική εταιρεία.

Ο συγκεκριμένος χαρακτηρισμός σημαίνει ότι ένα εργαλείο ή μια υπηρεσία δεν είναι αρκετά ασφαλής για κυβερνητική χρήση και ιστορικά προορίζεται για εταιρείες που εδρεύουν σε χώρες που θεωρούνται αντίπαλοι των ΗΠΑ.

Η Anthropic έχει καταθέσει μήνυση κατά του Πενταγώνου μετά από αυτή την απόφαση.

Αμερικανός δικαστής έκρινε ότι η οδηγία του Πενταγώνου δεν μπορεί να εφαρμοστεί άμεσα, πράγμα που σημαίνει ότι οι κυβερνητικές υπηρεσίες και οι οργανισμοί που συνεργάζονται με τον αμερικανικό στρατό μπορούν να συνεχίσουν να χρησιμοποιούν τα εργαλεία της Anthropic όσο η δικαστική διαμάχη βρίσκεται σε εξέλιξη.