Μετά τα πυρηνικά, το AI: “Κόκκινο τηλέφωνο” για να μην αφανιστούμε

Ένας “ψηφιακό” ψυχροπολεμικό κλίμα αιωρείται πάνω από τη συνάντηση κορυφής Τραμπ – Σι αυτή την εβδομάδα στην Ουάσιγκτον, καθώς οι ΗΠΑ και η Κίνα εξετάζουν τη δημιουργία μιας γραμμής έκτακτης ανάγκης, ένα σύγχρονο “κόκκινο τηλέφωνο”, για την ημέρα που η Τεχνητή Νοημοσύνη (AI) θα ξεφύγει από κάθε έλεγχο.

Οι σχέσεις μεταξύ των δύο υπερδυνάμεων είναι ούτως ή άλλως εύθραυστες. Τόσο εύθραυστες που όπως φαίνεται χρειάζεται μια γραμμή επικοινωνίας για το AI σε περίπτωση που ξεφύγουν τα πράγματα.

Την ίδια στιγμή, το πολιτικό κλίμα στην Αμερική οξύνεται. Ο Πρόεδρος Τραμπ περνά τις τελευταίες ημέρες εξαπολύοντας επιθέσεις εναντίον όσων προειδοποιούν για καταστροφικά σενάρια γύρω από τις τεχνολογικές εξελίξεις, αποκαλώντας τους φόβους αυτούς “απάτη” και αναπτύσσοντας την εθνική στρατηγική του πάνω σε μία και μόνη επιταγή: Τη νίκη επί της Κίνας.

Υποσχέθηκε δε ότι οι ΗΠΑ δεν θα εμποδίσουν ούτε θα παρακωλύσουν την ανάπτυξη της τεχνολογίας, προκειμένου να διατηρήσουν το προβάδισμά τους. Αν και τα κορυφαία αμερικανικά εργαστήρια AI συμμερίζονται την αγωνία να παραμείνουν μπροστά από το Πεκίνο, διαφωνούν με τη στάση του Τραμπ, υποστηρίζοντας ότι η ίδια η ένταση αυτού του ανταγωνισμού καθιστά τις παγκόσμιες δικλείδες ασφαλείας πιο απαραίτητες από ποτέ.

Στην αντίπερα όχθη, η Κίνα εμφανίζεται εξίσου αποφασισμένη να επικρατήσει.

Ωστόσο, ο Σι Τζινπίνγκ, στην πρώτη του επίσημη επίσκεψη στην Αμερική από το 2015 (την Πέμπτη 24 Σεπτεμβρίου), καλείται να ισορροπήσει ανάμεσα σε δύο αλληλοσυγκρουόμενους φόβους. Από τη μία, φοβάται μήπως μείνει πίσω. Γι’ αυτόν τον λόγο, το Πεκίνο απορρίπτει οποιοδήποτε πλαίσιο ασφαλείας που θα “πάγωνε” την κούρσα ανάπτυξης – ανταγωνισμού, όσο η Αμερική διατηρεί τα ηνία, ενώ παράλληλα διοχετεύει στην παγκόσμια αγορά προσιτά και ισχυρά μοντέλα ανοιχτού κώδικα, καταγγέλλοντας τους αμερικανικούς περιορισμούς στα τσιπ. Αυτό γιατί οι ΗΠΑ έχουν επιβάλει αυστηρούς εμπορικούς αποκλεισμούς, απαγορεύοντας την εξαγωγή στην Κίνα προηγμένων μικροεπεξεργαστών (όπως αυτοί της Nvidia), οι οποίοι είναι απαραίτητοι για την εκπαίδευση ισχυρών μοντέλων AI.

Από την άλλη, ο ηγέτης της Κίνας φοβάται μήπως χαθεί ο έλεγχος. Ο Σι επιζητεί μια AI αρκούντως ισχυρή για να μετασχηματίσει την κινεζική οικονομία, αλλά όχι τόσο αυτόνομη ώστε να αμφισβητήσει την παντοδυναμία του Κομμουνιστικού Κόμματος της χώρας και του πώς αυτό λειτουργεί. Έτσι, το Πεκίνο εστιάζει περισσότερο σε άμεσες απειλές όπως οι κυβερνοεπιθέσεις και οι διαταραχές σε κρίσιμες υποδομές και ανεφοδιασμούς.

Αυτή η σύγκλιση ανησυχιών ώθησε τον Υπουργό Οικονομικών των ΗΠΑ, Σκοτ Μπέσεντ, να προτείνει στο Πεκίνο έναν “μηχανισμό ειδοποίησης” για περιστατικά AI που αγγίζουν την εθνική ασφάλεια.

Το ιστορικό προηγούμενο δεν είναι άλλο από τη γραμμή που δημιούργησαν η Ουάσιγκτον και η Μόσχα μετά την Κρίση των Πυραύλων της Κούβας, με στόχο να αποτρέψουν ατυχήματα που θα οδηγούσαν σε πυρηνική σύγκρουση. Ο Τραμπ και ο Σι αναμένεται να συζητήσουν τους κοινούς αυτούς κινδύνους στη συνάντησή τους, ενώ αξιωματούχοι εξετάζουν τη θεσμοθέτηση ενός επίσημου Διαλόγου ΗΠΑ – Κίνας για την Τεχνητή Νοημοσύνη, ο οποίος θα παρείχε μια μόνιμη βάση στο κοινό κανάλι διαχείρισης κρίσεων.

Ωστόσο, η πρωτοβουλία αυτή προσκρούει σε σκληρά ζητήματα.

Κανείς δεν έχει προσδιορίσει δημόσια τι είδους συμβάν θα καθιστούσε αναγκαία την ενεργοποίηση του “κόκκινου τηλεφώνου”. Σε μια τεχνολογική κρίση, όπως μια μαζική κυβερνοεπίθεση σε κρίσιμες υποδομές από ένα προηγμένο μοντέλο, ο πρώτος συναγερμός θα χτυπήσει πιθανότατα στο εσωτερικό μιας ιδιωτικής εταιρείας και όχι σε κάποιο στρατιωτικό κέντρο διοίκησης.

Αυτό περιπλέκει απότομα τα πράγματα: η ιδιωτική εταιρεία μπορεί να γνωρίζει πολύ περισσότερα από την κυβέρνηση για τη συμπεριφορά του μοντέλου της, ενώ οι κρατικοί αξιωματούχοι θα κληθούν να αποφασίσουν πόσο ευαίσθητες πληροφορίες είναι διατεθειμένοι να μοιραστούν με έναν γεωπολιτικό αντίπαλο, προτού καν κατανοήσουν πλήρως την απειλή οι ίδιοι.

Επιπλέον, η Ουάσιγκτον και το Πεκίνο διαθέτουν ήδη κανάλια διαχείρισης κρίσεων, τα οποία όμως είθισται να σιγούν ακριβώς τη στιγμή που τα χρειάζονται περισσότερο.

Η Κίνα διέκοψε τις στρατιωτικές επαφές μετά την επίσκεψη της Νάνσι Πελόζι στην Ταϊβάν το 2022, ενώ λίγους μήνες αργότερα απέρριψε το αίτημα του Πενταγώνου για επικοινωνία, όταν οι ΗΠΑ κατέρριψαν κινεζικό κατασκοπευτικό αερόστατο (2023), δηλαδή σε στιγμές οξείας έντασης, τις οποίες τα κανάλια αυτά σχεδιάστηκαν ακριβώς για να εκτονώνουν.

Αντίστοιχα, η πανδημία της COVID-19 έδειξε πώς μια διασυνοριακή απειλή, αντί να προκαλέσει διαφάνεια και συνεργασία, πυροδότησε μια οργισμένη ανταλλαγή κατηγοριών για την προέλευση του ιού και την ευθύνη για αυτόν.

Παρά τα εμπόδια αυτά, η ίδια η πρόταση για ένα “κόκκινο τηλέφωνο” συνιστά από μόνη της μια σιωπηρή παραδοχή: Η Τεχνητή Νοημοσύνη δεν αποτελεί πλέον ένα ακόμη πεδίο οικονομικού ή στρατιωτικού ανταγωνισμού. Μια σοβαρή τεχνολογική αστοχία από την πλευρά της μίας υπερδύναμης μπορεί, μέσα σε ελάχιστα λεπτά, να μετατραπεί σε μια υπαρξιακή, κοινή κρίση και για τις δύο. Αλλά και για όλους μας, όπως το έθεσε ο Jacob Coxon πρώην ερευνητή της Anthropic που παραιτήθηκε για λόγους δεοντολογίας.

Αναφορικά με το AI, η WSJ είχε εντοπίσει πάντως δύο βασικές κατηγορίες απειλών.

Η πρώτη αφορά την απώλεια ελέγχου. Μελλοντικά συστήματα υψηλής αυτονομίας, με ικανότητα “αυτοαντιγραφής και αυτοβελτίωσης”, θα μπορούσαν να υιοθετήσουν στρατηγικές που οι δημιουργοί τους ούτε ενέκριναν ούτε είναι σε θέση να ανακόψουν. Με άλλα λόγια, να αυτονομηθούν – όπως ήδη έχει φανεί σε πειράματα.

Η δεύτερη απειλή σχετίζεται με την κακόβουλη χρήση από ανθρώπους. Ένα ιδιαίτερα ισχυρό σύστημα AI θα μπορούσε να βοηθήσει επικίνδυνους χρήστες να αναπτύξουν βιολογικές απειλές ή να εξαπολύσουν μεγάλης κλίμακας κυβερνοεπιθέσεις.

Παράλληλα, υπάρχουν σενάρια σοβαρής αποσταθεροποίησης όπως εκτεταμένες διακοπές στα δίκτυα ηλεκτροδότησης, κλονισμός χρηματοπιστωτικών συστημάτων ή σταδιακή ανάθεση κρίσιμων αποφάσεων στις μηχανές, με το μέλλον να είναι σε κάθε περίπτωση, αχαρτογράφητο.