Tο 24ωρο παρασκήνιο πριν η κυβέρνηση Τραμπ “μπλοκάρει” το νέο μοντέλο της Anthropic

Η απόφαση της κυβέρνησης Τραμπ να επιβάλει εκτεταμένους περιορισμούς στις εξαγωγές της Anthropic ακολούθησε μια πυρετώδη προσπάθεια διάρκειας 24 ωρών από ανώτατους κυβερνητικούς αξιωματούχους να πείσουν την εταιρεία να αποσύρει οικειοθελώς ένα νέο μοντέλο τεχνητής νοημοσύνης που μόλις είχε κυκλοφορήσει και το οποίο, όπως υποστήριξαν, ενείχε κινδύνους για την εθνική ασφάλεια.

Αυτό δήλωσαν δύο αξιωματούχοι της κυβέρνησης και ένας ανώτερος αξιωματούχος του Λευκού Οίκου στο Politico, οι οποίοι, όπως και άλλες πηγές του ρεπορτάζ, μίλησαν υπό καθεστώς ανωνυμίας επειδή δεν είχαν εξουσιοδότηση να συζητήσουν δημόσια το περιστατικό.

Ωστόσο η εκδοχή αυτή, απέχει σημαντικά από όσα υποστηρίζει η Anthropic.

Η κίνηση αυτή, ακολούθησε μια σειρά από τεταμένες τηλεφωνικές επικοινωνίες μεταξύ του διευθύνοντος συμβούλου της Anthropic, Ντάριο Αμοντέι, και κυβερνητικών αξιωματούχων, μεταξύ των οποίων ο υπουργός Οικονομικών Σκοτ Μπέσεντ και ο διευθυντής Κυβερνοασφάλειας του Λευκού Οίκου Σον Κέρνκρος.

Οι λεπτομέρειες αυτών των επικοινωνιών δεν είχαν δημοσιοποιηθεί μέχρι σήμερα.

Η επιβολή των εξαγωγικών περιορισμών από την κυβέρνηση ανάγκασε την Anthropic να αποσύρει το νέο μοντέλο τεχνητής νοημοσύνης Fable, μόλις λίγες ημέρες μετά τη διάθεσή του στο κοινό. Η εταιρεία είχε διαβεβαιώσει ότι το σύστημα ήταν ασφαλές, ωστόσο λίγο μετά την κυκλοφορία του κορυφαίοι κυβερνητικοί αξιωματούχοι άρχισαν να αμφιβάλλουν εκ νέου για το κατά πόσο οι δικλίδες ασφαλείας (guardrails) του μοντέλου ήταν πράγματι τόσο αποτελεσματικές όσο υποστήριζε η εταιρεία.

Την Πέμπτη, δύο ημέρες μετά τη δημόσια κυκλοφορία του μοντέλου, ο διευθύνων σύμβουλος της Amazon, Άντι Τζάσι, εξέφρασε τις ανησυχίες του στον Λευκό Οίκο σχετικά με τη δυνατότητα παράκαμψης των μηχανισμών ασφαλείας του συστήματος, σύμφωνα με τους δύο κυβερνητικούς αξιωματούχους και τον ανώτερο αξιωματούχο του Λευκού Οίκου.

Όπως σημειώνει το δημοσίευμα του Politico, η Amazon, η οποία είναι επενδυτής στην Anthropic, ανταποκρίθηκε σε αίτημα της κυβέρνησης για παροχή σχολίων και αξιολόγησης, ανέφερε πρόσωπο με γνώση των σχετικών συζητήσεων.

Μέχρι το πρωί της Παρασκευής, το ζήτημα είχε φτάσει στα ανώτατα κλιμάκια του Λευκού Οίκου.

Διαφορετικές ερμηνείες δίνουν η Anthropic και η κυβέρνηση Τραμπ

Ο υπουργός Οικονομικών Σκοτ Μπέσεντ, ο διευθυντής Κυβερνοασφάλειας του Λευκού Οίκου Σον Κέρνκρος, η προσωπάρχης του Λευκού Οίκου Σούζι Γουάιλς και άλλοι ανώτεροι αξιωματούχοι πραγματοποίησαν σύσκεψη για να εξετάσουν το μοντέλο και την κυβερνητική αντίδραση, σύμφωνα με κυβερνητικό αξιωματούχο και ανώτερο αξιωματούχο του Λευκού Οίκου. Ο Μπέσεντ συμμετείχε εξ αποστάσεως, καθώς ταξίδευε στο Χιούστον για προγραμματισμένη δημόσια εκδήλωση, όπως ανέφερε μία από τις πηγές.

Μετά τη σύσκεψη, η κυβέρνηση επιχείρησε να επικοινωνήσει με τον Αμοντέι, αλλά ενημερώθηκε ότι δεν ήταν διαθέσιμος επειδή ήταν σε ένα wellness retreat, σύμφωνα με έναν κυβερνητικό αξιωματούχο και τον ανώτερο αξιωματούχο του Λευκού Οίκου.

Εκπρόσωπος της Anthropic απέρριψε τον ισχυρισμό, δηλώνοντας ότι «αυτό είναι απολύτως ψευδές».

Πρόσωπο που βρίσκεται κοντά στην Anthropic ανέφερε ότι το πρώτο αίτημα επικοινωνίας προς τον Αμοντέι έγινε γύρω στο μεσημέρι και ότι εκείνος βρισκόταν σε τηλεφωνική επικοινωνία με ανώτερους κυβερνητικούς αξιωματούχους μέσα σε μία ώρα και δεκαπέντε λεπτά. Κατά το διάστημα που δεν ήταν διαθέσιμος, η εταιρεία πρότεινε άλλους ανώτερους αξιωματούχους της για να τον εκπροσωπήσουν, πρόσθεσε η ίδια πηγή.

Όταν τελικά η κυβέρνηση κατάφερε να επικοινωνήσει με τον Αμοντέι, εκείνος συμμετείχε σε τρεις τηλεδιασκέψεις με περίπου έξι ανώτερους κυβερνητικούς αξιωματούχους, μεταξύ των οποίων ο Σον Κέρνκρος, ο Σκοτ Μπέσεντ και ο υπουργός Εμπορίου Χάουαρντ Λάτνικ, σύμφωνα με τον ανώτερο αξιωματούχο του Λευκού Οίκου και έναν κυβερνητικό αξιωματούχο.

Σε ορισμένες από τις συνομιλίες συμμετείχαν επίσης ο υφυπουργός Εμπορίου για τη Βιομηχανία και την Ασφάλεια Τζέφρι Κέσλερ, ο γραμματέας του προσωπικού του Λευκού Οίκου Γουίλ Σαρφ, ο αναπληρωτής προσωπάρχης του Λευκού Οίκου Ρίτσαρντ Γουόλτερς και ο σύμβουλος πολιτικής του προέδρου Γουόκερ Μπάρετ, σύμφωνα με τον ίδιο ανώτερο αξιωματούχο.

Κατά τη διάρκεια των συνομιλιών, ο Αμοντέι επιχείρησε να αποσαφηνίσει αυτό που θεωρούσε παρεξήγηση. Αντέκρουσε τις ανησυχίες της κυβέρνησης, υπερασπίστηκε τις δικλίδες ασφαλείας του μοντέλου και υποστήριξε ότι ο τρόπος παράκαμψης που είχε εντοπιστεί ήταν συγκεκριμένος και περιορισμένος και δεν ενείχε τον ίδιο κίνδυνο για ένα γενικευμένο «jailbreak», το οποίο θα επέτρεπε τη χρήση του συστήματος χωρίς κανέναν από τους περιορισμούς ασφαλείας που έχει θέσει η Anthropic.

Σε ανάρτησή της στο ιστολόγιό της μετά την επιβολή των εξαγωγικών περιορισμών, η Anthropic ανέφερε ότι «κανένας από τους δοκιμαστές δεν έχει μέχρι στιγμής καταφέρει να εντοπίσει ένα καθολικό jailbreak — δηλαδή μια μέθοδο που να μπορεί να παρακάμπτει σε πολύ μεγάλο βαθμό τις δικλίδες ασφαλείας του μοντέλου και να ξεκλειδώνει ένα ευρύ φάσμα κυβερνοδυνατοτήτων». Η εταιρεία πρόσθεσε ότι η πλήρης αποτροπή κάθε μορφής jailbreak δεν είναι προς το παρόν εφικτή, ούτε για την ίδια ούτε για οποιαδήποτε άλλη εταιρεία του κλάδου. Παράλληλα, υπερασπίστηκε τα συστήματα ασφαλείας της, υποστηρίζοντας ότι «είναι τόσο αυστηρά ώστε πολλοί χρήστες έχουν παραπονεθεί πως είναι υπερβολικά περιοριστικά».

Ωστόσο, ο Κέρνκρος και ο Μπέσεντ δεν πείστηκαν από τα επιχειρήματα του Αμοντέι. Αξιωματούχος του Λευκού Οίκου ανέφερε ότι τα ευρήματα της Amazon αξιολογήθηκαν από την Εθνική Υπηρεσία Ασφαλείας των ΗΠΑ (NSA) και ότι οι αρμόδιες αρχές θεώρησαν πως διέθεταν «αποδείξεις» για τους κινδύνους που επικαλούνταν.

Σύμφωνα με τον ανώτερο αξιωματούχο του Λευκού Οίκου και δύο κυβερνητικούς αξιωματούχους, η κυβέρνηση κάλεσε την Anthropic να αποσύρει οικειοθελώς το μοντέλο και να συνεργαστεί με τις αρχές για την αντιμετώπιση των κενών ασφαλείας. Ο Αμοντέι ζήτησε περισσότερο χρόνο και περισσότερες πληροφορίες, χωρίς όμως να δεσμευτεί ότι θα αποσύρει το μοντέλο. Μάλιστα, σε κάποια στιγμή της συνομιλίας, ο Μπέσεντ φέρεται να του είπε ευθέως ότι «παίρνει μια κακή απόφαση».

Λίγο μετά την ολοκλήρωση των συνομιλιών, η κυβέρνηση Τραμπ επέβαλε εξαγωγικούς περιορισμούς στα μοντέλα Fable 5 και Mythos 5, επικαλούμενη λόγους εθνικής ασφάλειας και απαγορεύοντας τη χρήση τους από αλλοδαπούς υπηκόους, σύμφωνα με την Anthropic. Η εταιρεία δήλωσε ότι το «καθαρό αποτέλεσμα» της απόφασης ήταν να απενεργοποιήσει άμεσα τα μοντέλα για όλους τους πελάτες της, προκειμένου να διασφαλίσει τη συμμόρφωσή της με την κυβερνητική εντολή.

«Οι εξαγωγικοί περιορισμοί ήταν η ύστατη λύση, αφού επί ώρες τους παρακαλούσαμε να συνεργαστούν μαζί μας», δήλωσε ο ανώτερος αξιωματούχος του Λευκού Οίκου. «Δεν ήταν κάτι που θέλαμε να κάνουμε, αλλά δεν είχαμε άλλη επιλογή.»

Μετά τη δημοσίευση του ρεπορτάζ, ένα από τα πρόσωπα που βρίσκονται κοντά στην Anthropic αμφισβήτησε ότι η εταιρεία είχε τη δυνατότητα να συνεργαστεί εθελοντικά με την κυβέρνηση πριν ληφθούν τα μέτρα.

«Ο Λευκός Οίκος έδωσε προθεσμία 90 λεπτών για να κατεβάσουμε τα μοντέλα, χωρίς να παράσχει λεπτομέρειες για την υποτιθέμενη απειλή», ανέφερε η πηγή. «Δεν υπήρξε ποτέ καμία παράκληση — ούτε καν αίτημα — για συνεργασία. Υπήρξε απλώς ένα τελεσίγραφο 90 λεπτών.»

Σύμφωνα με τον ανώτερο αξιωματούχο του Λευκού Οίκου, κυβερνητικοί αξιωματούχοι, οι οποίοι είχαν ακούσει στο παρελθόν τον Αμοντέι να παρομοιάζει τους κινδύνους της τεχνολογίας της Anthropic με εκείνους μιας πυρηνικής βόμβας, δυσκολεύονταν να κατανοήσουν γιατί ο διευθύνων σύμβουλος της εταιρείας δεν ήταν διατεθειμένος να αποσύρει προσωρινά το σύστημα προκειμένου να αντιμετωπιστεί μια γνωστή ευπάθεια ασφαλείας. Η Anthropic έχει καθιερωθεί στον κλάδο ως μία από τις πλέον ένθερμες φωνές υπέρ της ρύθμισης της τεχνητής νοημοσύνης, προειδοποιώντας για τους σοβαρούς κινδύνους που αυτή μπορεί να δημιουργήσει για την παγκόσμια ασφάλεια και την απασχόληση καθώς εξελίσσεται με ταχύτατους ρυθμούς.

Τρία πρόσωπα που γνωρίζουν τις συζητήσεις στο εσωτερικό της κυβέρνησης ανέφεραν ότι η Amazon δεν ήταν η μόνη εταιρεία που εξέφρασε ανησυχίες.

«Η ουσία του προβλήματος ήταν ότι η Anthropic δεν αντιμετώπιζε το ζήτημα με την απαιτούμενη σοβαρότητα», δήλωσε ένα από τα τρία πρόσωπα. «Αν η Anthropic το είχε πάρει στα σοβαρά και, αντί να το απορρίψει ως μεμονωμένο περιστατικό, είχε κινηθεί για να διορθώσει το πρόβλημα ή να αναστείλει προσωρινά την πρόσβαση στο μοντέλο, όλη αυτή η εξέλιξη δεν θα είχε συμβεί ποτέ.»

Μια δεύτερη πηγή προσκείμενη στην Anthropic απέρριψε τον ισχυρισμό ότι το συγκεκριμένο «jailbreak» συνιστούσε αποτυχία των μηχανισμών ασφαλείας του Fable 5 και υπενθύμισε ότι η εταιρεία είχε συνεργαστεί με την κυβέρνηση πριν από τη διάθεση του μοντέλου. Σύμφωνα με την ίδια πηγή, σε πολλαπλές επαφές που προηγήθηκαν της κυκλοφορίας του Fable, η κυβέρνηση δεν είχε εκφράσει καμία αντίρρηση για την κυκλοφορία του.

Στην ανάρτησή της στο ιστολόγιό της μετά την επιβολή των εξαγωγικών περιορισμών, η Anthropic ανέφερε ότι συμμορφώνεται με την κυβερνητική εντολή, χαρακτήρισε όμως το μέτρο δυσανάλογο.

«Όπως έχουμε δηλώσει δημόσια, πιστεύουμε ότι η κυβέρνηση θα πρέπει να έχει τη δυνατότητα να εμποδίζει μη ασφαλείς αναπτύξεις τεχνητής νοημοσύνης, στο πλαίσιο μιας θεσμοθετημένης διαδικασίας που να είναι διαφανής, δίκαιη, σαφής και να βασίζεται σε τεχνικά δεδομένα. Η συγκεκριμένη ενέργεια δεν συνάδει με αυτές τις αρχές», ανέφερε η εταιρεία.

Αξιωματούχος του Λευκού Οίκου, που μίλησε υπό καθεστώς ανωνυμίας ώστε να εκφραστεί πιο ελεύθερα, δήλωσε ότι η καινοτομία παραμένει «η υπ’ αριθμόν ένα προτεραιότητα» της κυβέρνησης, αλλά πρόσθεσε πως «πρέπει παράλληλα να δίνεται προτεραιότητα και στην ασφάλεια».

Η Amazon, σε ανακοίνωσή της, αρνήθηκε να αποκαλύψει λεπτομέρειες των επαφών της με την κυβέρνηση.

«Δεν είναι ασυνήθιστο οι κυβερνήσεις να ζητούν τη γνώμη μας σχετικά με πιθανούς κινδύνους ασφαλείας», δήλωσε εκπρόσωπος της εταιρείας. «Όταν συμβαίνει αυτό, δεν δημοσιοποιούμε τις λεπτομέρειες αυτών των συζητήσεων.»

Η Anthropic είχε ανακοινώσει στις αρχές Απριλίου ότι το νεότερο και ιδιαίτερα ισχυρό μοντέλο της, το Mythos, θα διατεθεί μόνο σε περιορισμένο αριθμό τεχνολογικών εταιρειών και εταιρειών κυβερνοασφάλειας, ώστε να χρησιμοποιηθεί για τον εντοπισμό ευπαθειών σε λογισμικό. Όπως είχε εξηγήσει τότε, η διάθεση του μοντέλου έπρεπε να είναι περιορισμένη επειδή οι δυνατότητές του ήταν τόσο προηγμένες, ώστε θα μπορούσε να προκαλέσει σοβαρές συνέπειες εάν βρισκόταν σε λάθος χέρια.

Η κυκλοφορία του μοντέλου αποτέλεσε την αφετηρία μιας σειράς συναντήσεων μεταξύ του Ντάριο Αμοντέι και ανώτερων αξιωματούχων του Λευκού Οίκου. Και οι δύο πλευρές περιέγραψαν τις συναντήσεις αυτές ως παραγωγικές. Από αυτές προέκυψε ένας ευρύτερος διάλογος για τη ρύθμιση των πλέον προηγμένων μοντέλων τεχνητής νοημοσύνης, ο οποίος κατέληξε πρόσφατα στην έκδοση εκτελεστικού διατάγματος που καλεί τις εταιρείες να υποβάλλουν οικειοθελώς τα πιο εξελιγμένα μοντέλα τους στην κυβέρνηση για αξιολόγηση πριν τα διαθέσουν ευρέως στην αγορά.

Το Fable 5, το οποίο κυκλοφόρησε δημόσια αυτή την εβδομάδα, περιγράφηκε από την Anthropic ως ένα «μοντέλο κατηγορίας Mythos» με ενσωματωμένες δικλίδες ασφαλείας που το καθιστούν κατάλληλο για γενική χρήση. Πριν από τη διάθεσή του, το μοντέλο είχε αξιολογηθεί τόσο από τις αμερικανικές αρχές όσο και από το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου (UK AI Security Institute).

Ωστόσο, μετά την αποκάλυψη των φερόμενων κενών ασφαλείας, πολλοί κυβερνητικοί αξιωματούχοι θεώρησαν ότι το μοντέλο έπρεπε να αποσυρθεί.

Η κυβέρνηση Τραμπ έχει θέσει στο στόχαστρο επανειλημμένα την Anthropic

Σε ανάρτησή του στην πλατφόρμα X το πρωί του Σαββάτου, ο Ντέιβιντ Σακς, πρώην «τσάρος» της τεχνητής νοημοσύνης στον Λευκό Οίκο και ένθερμος πολέμιος της αυστηρής ρύθμισης του κλάδου, τάχθηκε υπέρ της απόφασης της κυβέρνησης να επιβάλει εξαγωγικούς περιορισμούς στην Anthropic.

Ο Σακς δήλωσε ότι δεν θεωρεί πως το συγκεκριμένο «jailbreak» ήταν απλό ή ασήμαντο, ούτε ότι οι εξαγωγικοί περιορισμοί αποτελούν προσπάθεια ευρύτερου κρατικού ελέγχου της βιομηχανίας τεχνητής νοημοσύνης.

«Η ελπίδα της κυβέρνησης είναι τώρα η Anthropic να διορθώσει το πρόβλημα ασφαλείας, να αρθούν οι εξαγωγικοί περιορισμοί και το Fable να επιστρέψει σε γενική κυκλοφορία», έγραψε ο Σακς. «Η κυβέρνηση θέλει όλα αυτά να συμβούν το συντομότερο δυνατό. Ειλικρινά, δυσκολεύεται να κατανοήσει γιατί η Anthropic δεν επιθυμεί να συμμορφωθεί με αιτήματα ασφαλείας τα οποία στο παρελθόν η ίδια χαρακτήριζε ύψιστη προτεραιότητά της.»

Ο Σακς και άλλα στελέχη της κυβέρνησης έχουν θέσει στο στόχαστρο επανειλημμένα την Anthropic, κατηγορώντας την για πολιτική προκατάληψη προς τα αριστερά και για κινδυνολογία, λόγω της υποστήριξής της σε αυστηρότερη ρύθμιση της τεχνητής νοημοσύνης και των προειδοποιήσεών της για μαζικές ανατροπές στην αγορά εργασίας.

Νωρίτερα φέτος, ο υπουργός Άμυνας Πιτ Χέγκσεθ και το Πεντάγωνο κλιμάκωσαν τη σύγκρουση με την Anthropic σε πρωτοφανές επίπεδο, χαρακτηρίζοντας την εταιρεία στις 3 Μαρτίου ως κίνδυνο για την αλυσίδα εφοδιασμού (supply chain risk), εξαιτίας της άρνησής της να επιτρέψει τη χρήση των εργαλείων τεχνητής νοημοσύνης της για μαζική εσωτερική παρακολούθηση και για αυτόνομα οπλικά συστήματα.

Το Σάββατο, ο Σακς υποστήριξε ότι οι προηγούμενες αντιπαραθέσεις μεταξύ της κυβέρνησης και της Anthropic ήταν ανεξάρτητες από την απόφαση για την επιβολή εξαγωγικών περιορισμών.

«Η κυβέρνηση εκτιμά τις τεχνικές δυνατότητες της Anthropic και θεωρεί ότι το συγκεκριμένο ζήτημα, παρότι σοβαρό, μπορεί να επιλυθεί εύκολα. Η μπάλα βρίσκεται πλέον στο γήπεδο της Anthropic», έγραψε ο Σακς.