Από εργαλείο πληροφοριών σε “κίνδυνο ασφαλείας” – Γιατί το Πεντάγωνο εγκατέλειψε την Anthropic

Το αμερικανικό υπουργείο Άμυνας δεν χρησιμοποιεί πλέον τα εργαλεία τεχνητής νοημοσύνης της Anthropic, όπως δήλωσε αξιωματούχος στο BBC, λίγους μήνες μετά τον χαρακτηρισμό της εταιρείας ως «κίνδυνο για την εφοδιαστική αλυσίδα για λόγους εθνικής ασφάλειας».

«Το Πεντάγωνο έχει διακόψει τη χρήση προϊόντων της Anthropic», ανέφερε ο αξιωματούχος του υπουργείου Άμυνας σε δήλωσή του.

Ο υπουργός Άμυνας Πιτ Χέγκσεθ είχε χαρακτηρίσει τον Φεβρουάριο την Anthropic κίνδυνο για την εφοδιαστική αλυσίδα και είχε ανακοινώσει ότι το Πεντάγωνο θα σταματούσε να χρησιμοποιεί τα προϊόντα της έως τα τέλη Αυγούστου.

Ωστόσο, αρκετές πηγές με γνώση του θέματος δήλωσαν στο BBC ότι μέχρι και την περασμένη εβδομάδα το μοντέλο Claude της Anthropic εξακολουθούσε να χρησιμοποιείται από το υπουργείο σε έρευνα, αναλύσεις και συλλογή πληροφοριών, αλλά και σε στρατιωτικές επιχειρήσεις κατά του Ιράν.

Σύμφωνα με τις ίδιες πηγές, μεταξύ των οποίων βρίσκονται πρώην αξιωματούχοι του αμερικανικού υπουργείου Άμυνας και εργολάβοι που έχουν συνεργαστεί στενά με το Πεντάγωνο σε θέματα τεχνητής νοημοσύνης, το Claude θεωρούνταν κρίσιμο εργαλείο για την επεξεργασία τεράστιων όγκων πληροφοριών.

Εκπρόσωπος της Anthropic αρνήθηκε να σχολιάσει τη δήλωση του Πενταγώνου.

Οι λεπτομέρειες σχετικά με την πλήρη διακοπή της χρήσης των εργαλείων της Anthropic από το αμερικανικό υπουργείο Άμυνας δεν είχαν γίνει μέχρι σήμερα γνωστές.

Η Anthropic χρησιμοποιούνταν από την αμερικανική κυβέρνηση και τις ένοπλες δυνάμεις από το 2024 και ήταν η πρώτη εταιρεία προηγμένων συστημάτων τεχνητής νοημοσύνης της οποίας τα εργαλεία αναπτύχθηκαν σε κυβερνητικές υπηρεσίες για διαβαθμισμένη εργασία.

Η σύγκρουση με το Πεντάγωνο

Νωρίτερα φέτος, το Πεντάγωνο πίεσε την Anthropic να καταργήσει τους περιορισμούς ασφαλείας του Claude και να παραχωρήσει στις ένοπλες δυνάμεις απεριόριστη πρόσβαση στα εργαλεία τεχνητής νοημοσύνης της.

Όταν η Anthropic αρνήθηκε, επικαλούμενη ανησυχίες για μαζική παρακολούθηση και αυτόνομα οπλικά συστήματα, ο Χέγκσεθ χαρακτήρισε την εταιρεία «κίνδυνο για την εφοδιαστική αλυσίδα εθνικής ασφάλειας» – χαρακτηρισμό που συνήθως επιφυλάσσεται για εταιρείες με έδρα σε χώρες που θεωρούνται απειλή για τις ΗΠΑ.

Η Anthropic χαρακτήρισε την απόφαση «άνευ προηγουμένου και παράνομη» και προσέφυγε δικαστικά κατά της κυβέρνησης Τραμπ, ζητώντας να ανατραπεί ο συγκεκριμένος χαρακτηρισμός.

Την ώρα που η νομική αντιπαράθεση εξελισσόταν, το Πεντάγωνο υπέγραφε συμβάσεις με άλλες μεγάλες τεχνολογικές εταιρείες, μεταξύ των οποίων η Google, η xAI και η OpenAI.

Σύμφωνα με δύο πηγές που γνωρίζουν τη χρήση συστημάτων AI στο αμερικανικό υπουργείο Άμυνας, τα εργαλεία της OpenAI έχουν υιοθετηθεί ευρύτερα τους τελευταίους μήνες σε ορισμένες στρατιωτικές υπηρεσίες.

Το Claude ήταν ενσωματωμένο στο Maven

Η ανακοίνωση του Πενταγώνου τη Δευτέρα έγινε σε απάντηση ερώτησης του BBC σχετικά με τη χρήση της Anthropic, αφού αρκετές πηγές είχαν δηλώσει ότι το Claude εξακολουθούσε να χρησιμοποιείται ευρέως.

Σύμφωνα με πολλές από αυτές τις πηγές, το Claude ήταν ενσωματωμένο σε μια ευρύτερη πλατφόρμα δεδομένων του Πενταγώνου, το Maven Smart System.

Το Maven, το οποίο διαχειρίζεται η Palantir, αποτελεί την κύρια πλατφόρμα του αμερικανικού υπουργείου Άμυνας για την οργάνωση πληροφοριών και άλλων δεδομένων.

Η Λόρεν Καν, ανώτερη ερευνήτρια στο Center for Security and Emerging Technology του Georgetown University, δήλωσε ότι επειδή το Claude είχε ενσωματωθεί σε βάθος στο Maven, η άμεση απομάκρυνσή του από το σύστημα ήταν δύσκολη.

«Το γεγονός ότι χρειάστηκε μέχρι τώρα το Πεντάγωνο για να καταργήσει πλήρως τη χρήση του Claude από ολόκληρο το σύστημα δείχνει ότι αυτά τα εργαλεία δεν είναι απλώς “βάζω και βγάζω”», ανέφερε.

«Από τη στιγμή που ενσωματωθούν, η απομάκρυνσή τους μπορεί να είναι επίπονη», πρόσθεσε η Καν, η οποία έχει επίσης υπηρετήσει στο αμερικανικό υπουργείο Άμυνας.

Το BBC μίλησε με εργολάβους του αμυντικού τομέα που ειδικεύονται στην τεχνητή νοημοσύνη και έχουν συνεργαστεί στενά με το Πεντάγωνο, καθώς και με πρώην αξιωματούχους του υπουργείου Άμυνας και άλλα πρόσωπα με γνώση της χρήσης AI από το αμερικανικό κράτος. Αρκετοί μίλησαν υπό καθεστώς ανωνυμίας, καθώς δεν είχαν εξουσιοδότηση να μιλήσουν στα μέσα ενημέρωσης.

Όταν ο Χέγκσεθ διέταξε αρχικά τη σταδιακή κατάργηση της Anthropic από την κυβέρνηση, «υπήρχε ανησυχία για τη μετάβαση από την Anthropic στην OpenAI» και σε άλλα εργαλεία, δήλωσε πρώην ανώτερος αξιωματούχος του υπουργείου Άμυνας.

Ο Χέγκσεθ είχε θέσει εξάμηνη προθεσμία για τη σταδιακή διακοπή της χρήσης της Anthropic στις 27 Φεβρουαρίου, μία ημέρα πριν οι ΗΠΑ και το Ισραήλ επιτεθούν στο Ιράν.

Χρήση σε πληροφορίες και στρατιωτικές επιχειρήσεις

Σύμφωνα με μία από τις πηγές, στελέχη του Πενταγώνου συνέχισαν να χρησιμοποιούν τα εργαλεία Claude της Anthropic, συμπεριλαμβανομένων των ισχυρών μοντέλων Mythos, «σε όλη τη διάρκεια της αντιπαράθεσης» με την εταιρεία.

Το Claude χρησιμοποιούνταν ιδιαίτερα για τη συλλογή και ανάλυση πληροφοριών, μεταξύ άλλων μέσω του συστήματος Maven της Palantir, ανέφεραν αρκετές πηγές.

Η Palantir, μία από τις σημαντικότερες εταιρείες αμυντικής τεχνολογίας, ιδρύθηκε από τον δισεκατομμυριούχο και σύμμαχο του Ντόναλντ Τραμπ, Πίτερ Τιλ.

Πηγές που γνωρίζουν τον τρόπο με τον οποίο χρησιμοποιείται η τεχνολογία ανέφεραν ότι αναλυτές και άλλοι αξιωματούχοι του υπουργείου Άμυνας βασίζονται στο Maven για την πρόσβαση και την οργάνωση οπτικών δεδομένων, όπως δορυφορικές εικόνες και πλάνα από drones.

Τα δεδομένα αυτά διοχετεύονταν στη συνέχεια στο Claude και σε άλλα μεγάλα γλωσσικά μοντέλα για εργασίες όπως ο εντοπισμός πιθανών στρατιωτικών στόχων.

Αξιωματούχοι χρησιμοποιούσαν επίσης συχνά την τεχνολογία για τη σύνταξη μονοσέλιδων ενημερωτικών σημειωμάτων, τα οποία προωθούνταν στην ιεραρχία, σύμφωνα με πηγή που είχε παρακολουθήσει επίδειξη του Maven από την Palantir νωρίτερα φέτος.

Το Maven χρησιμοποιείται επίσης από ορισμένους συμμάχους των ΗΠΑ για την ανταλλαγή πληροφοριών με την κυβέρνηση Τραμπ.

Θερμότερες σχέσεις με τον Λευκό Οίκο

Η σύγκρουση της Anthropic με το Πεντάγωνο εξελίσσεται την ώρα που οι σχέσεις της εταιρείας με τον Λευκό Οίκο φαίνεται να βελτιώνονται.

Ο Ντόναλντ Τραμπ συναντήθηκε δύο φορές την περασμένη εβδομάδα στον Λευκό Οίκο με τον επικεφαλής της Anthropic, Ντάριο Αμοντέι.

Μετά από μία από τις συναντήσεις με τον Τραμπ και άλλους επικεφαλής τεχνολογικών εταιρειών, ο Αμοντέι δήλωσε ότι εξακολουθεί να ανησυχεί για τους κινδύνους που συνδέονται με την τεχνητή νοημοσύνη.

«Ο τρόπος με τον οποίο θα αντιμετωπίσουμε αυτούς τους κινδύνους εξακολουθεί να συζητείται», είπε στους δημοσιογράφους στον Λευκό Οίκο, έχοντας τον Τραμπ στο πλευρό του, προσθέτοντας όμως ότι «αν συνεργαστούμε με τον πρόεδρο, μπορούμε να κερδίσουμε με ασφάλεια».

Ο Τραμπ έσπευσε στη συνέχεια να επαινέσει τον Αμοντέι, χαρακτηρίζοντάς τον «σπουδαίο» και «φανταστικό».