Λάθος της AI παραλίγο να προκαλέσει πόλεμο ΗΠΑ-Κίνας

Μια έκθεση των υπηρεσιών πληροφοριών, η οποία κυκλοφόρησε στις τάξεις του αμερικανικού στρατού την άνοιξη, εν μέσω του πολέμου με το Ιράν, σήμανε αμέσως συναγερμό: ένα κινεζικό πλοίο στη Μέση Ανατολή μετέφερε εξαρτήματα για πρόγραμμα πυρηνικών όπλων.

Ο αμερικανικός στρατός κινητοποιήθηκε, καταρτίζοντας σχέδια για την αναχαίτιση του πλοίου, σύμφωνα με τέσσερις πηγές που γνωρίζουν το περιστατικό και μίλησαν στο CNN. Σύμφωνα με δύο από τις πηγές, ένοπλα στελέχη του αμερικανικού στρατού προετοιμάζονταν να επιβιβαστούν στο πλοίο. Στρατιωτικά αεροσκάφη βρίσκονταν ήδη στον αέρα, ανέφεραν μία από αυτές τις πηγές και ακόμη μία πηγή με γνώση του περιστατικού.

Μόλις λίγο πριν από την προγραμματισμένη επιχείρηση, αξιωματούχοι εξέτασαν πιο διεξοδικά την έκθεση, την οποία είχε συντάξει αναλυτής της Διοίκησης Ειδικών Επιχειρήσεων, και διαπίστωσαν ότι είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης (AI) — και ότι ένα chatbot που είχε χρησιμοποιήσει ο αναλυτής είχε προσδιορίσει λανθασμένα το υλικό που μετέφερε το πλοίο. Το CNN δεν κατάφερε να εξακριβώσει ποιο ήταν το φορτίο που είχε αναγνωριστεί εσφαλμένα.

Η έκθεση, σύμφωνα με μία από τις πηγές, ήταν «εντελώς ψευδής». Ωστόσο, «παραλίγο να προκαλέσει πόλεμο», ανέφερε η ίδια πηγή. Οποιαδήποτε αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να εγκυμονεί τον κίνδυνο κλιμάκωσης σε ένοπλη σύγκρουση μεταξύ των δύο χωρών.

Σε όλο το φάσμα των αμερικανικών ενόπλων δυνάμεων και της κοινότητας πληροφοριών, αξιωματούχοι πιέζουν για την ενσωμάτωση της τεχνητής νοημοσύνης σχεδόν σε κάθε πτυχή της δουλειάς τους, από την ανάλυση των τεράστιων όγκων ακατέργαστων πληροφοριών που συλλέγουν οι ΗΠΑ και την επιλογή στόχων για πλήγματα, έως πιο καθημερινές εφαρμογές, όπως η διαχείριση προϋπολογισμών, της εφοδιαστικής και των αλυσίδων εφοδιασμού.

Ωστόσο, το περιστατικό αυτό υπογραμμίζει τους σοβαρούς κινδύνους από τη χρήση αυτής της ισχυρής, νέας και σχετικά ανεπαρκώς κατανοητής τεχνολογίας για την επιλογή στόχων εν μέσω πολέμου. Οι αναλυτές φοβούνται εδώ και καιρό ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει σε έναν καταστροφικό λανθασμένο υπολογισμό, εάν τα κράτη βασίζονται σε κακής ποιότητας ή αλλοιωμένα δεδομένα — το είδος του λάθους που θα μπορούσε να οδηγήσει τις Ηνωμένες Πολιτείες να ανοίξουν πυρ εναντίον ενός κινεζικού πλοίου βάσει ανακριβών πληροφοριών.

Στη συγκεκριμένη περίπτωση, ο αναλυτής υπέβαλε ερώτημα σε ένα chatbot σχετικά με ορισμένες πληροφορίες που αφορούσαν το δηλωμένο φορτίο του πλοίου και προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό, η οποία εδρεύει στη Χαβάη. Δεν ήταν σαφές εάν το chatbot ήταν ένα εμπορικά διαθέσιμο εργαλείο ή προϊόν της αμερικανικής κυβέρνησης.

«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών προϊόντων με λίγο κραγιόν», δήλωσε πρώην ανώτερος Αμερικανός αξιωματούχος με γνώση των συστημάτων τεχνητής νοημοσύνης που χρησιμοποιούν αναλυτές του στρατού και των υπηρεσιών πληροφοριών.

Το bot συνδύασε πληροφορίες από ανοιχτές πηγές με απόρρητες πληροφορίες σημάτων που βρίσκονταν στα αρχεία της κυβέρνησης και κατέληξε στο μοιραίο συμπέρασμά του σχετικά με το υλικό που μετέφερε το πλοίο.

Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά τεχνητή νοημοσύνη για να διαμορφώσει τα ευρήματα σε μια τυποποιημένη έκθεση πληροφοριών — από εκείνες που θεωρούνται αξιόπιστες από στρατιωτικούς αξιωματούχους — και να τη διανείμει.

Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν σε αίτημα για σχόλιο.

Το σκεπτικό πίσω από την ταχεία υιοθέτηση της τεχνητής νοημοσύνης είναι ότι μπορεί να βοηθήσει τον στρατό να λαμβάνει γρηγορότερα αποφάσεις στο πεδίο της μάχης, όπως ποιοι στόχοι πρέπει να πληγούν ή ποια στρατιωτικά μέσα πρέπει να μετακινηθούν και πού. Αξιωματούχοι λένε ότι οι ΗΠΑ δεν έχουν την πολυτέλεια να μείνουν πίσω στην ενσωμάτωση της τεχνητής νοημοσύνης, σε περίπτωση που κάποια μέρα χρειαστεί να πολεμήσουν την Κίνα ή κάποιον άλλο αντίπαλο, ο οποίος θα μπορούσε ενδεχομένως να βρίσκεται ένα βήμα μπροστά από τις ΗΠΑ.

Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη «Στρατηγική Επιτάχυνσης της Τεχνητής Νοημοσύνης» του υπουργείου, σε μια προσπάθεια να επιταχύνει τη χρήση της τεχνητής νοημοσύνης από τις ένοπλες δυνάμεις.

«Θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα εστιάσουμε τις επενδύσεις μας και θα επιδείξουμε την προσέγγιση υλοποίησης που απαιτείται ώστε να διασφαλίσουμε ότι θα είμαστε πρωτοπόροι στη στρατιωτική τεχνητή νοημοσύνη», δήλωσε ο Χέγκσεθ σε ομιλία του κατά την ανακοίνωση της στρατηγικής.

Η στρατηγική προωθεί επίσης την ευρεία χρήση της τεχνητής νοημοσύνης σε όλο το εύρος των ενόπλων δυνάμεων, δίνοντας εντολή στο υπουργείο να καταστήσει την AI διαθέσιμη μέσω διαφόρων προγραμμάτων, με στόχο «τον εκδημοκρατισμό του πειραματισμού και του μετασχηματισμού μέσω της τεχνητής νοημοσύνης σε ολόκληρο το υπουργείο, θέτοντας τα κορυφαία παγκοσμίως αμερικανικά μοντέλα AI απευθείας στα χέρια των τριών εκατομμυρίων πολιτικών και στρατιωτικών υπαλλήλων μας, σε όλα τα επίπεδα διαβάθμισης», ανέφερε υπόμνημα με το οποίο ανακοινώθηκε η στρατηγική.

Ωστόσο, η προσπάθεια είναι αποκεντρωμένη, ανέφεραν πολλοί Αμερικανοί αξιωματούχοι με γνώση του ζητήματος, καθώς διαφορετικά τμήματα της κυβέρνησης χρησιμοποιούν διαφορετικά εργαλεία, υπό διαφορετικές εντολές και πρότυπα ασφαλείας. Δεν υπάρχει ένα ενιαίο σύνολο προτύπων για τον τρόπο με τον οποίο οι ΗΠΑ επαληθεύουν τις πληροφορίες που παράγονται από αυτά τα εργαλεία. Το σύνολο των διαφορετικών συστημάτων τεχνητής νοημοσύνης που αναπτύσσονται σε διαφορετικά τμήματα των ενόπλων δυνάμεων και της κοινότητας πληροφοριών σημαίνει ότι η σχετική αξιοπιστία και λειτουργικότητά τους ποικίλλουν σημαντικά.

Εδώ και εβδομάδες, οι υπεύθυνοι χάραξης πολιτικής στην Ουάσινγκτον συζητούν εντατικά για την τεχνητή νοημοσύνη, έπειτα από μια σειρά σοβαρών προειδοποιήσεων από μηχανικούς της Silicon Valley και διευθύνοντες συμβούλους τεχνολογικών εταιρειών σχετικά με το ενδεχόμενο η AI να ξεφύγει από τους ανθρώπινους περιορισμούς, με δυνητικά καταστροφικές συνέπειες ακόμη και για τον ίδιο τον πολιτισμό.

Ωστόσο, το περιστατικό με το κινεζικό πλοίο αναδεικνύει έναν διαφορετικό και πιο άμεσο κίνδυνο: ανθρώπους να λαμβάνουν καταστροφικές αποφάσεις με βάση ανακριβείς ή παραπλανητικές πληροφορίες που έχουν παραχθεί από τεχνητή νοημοσύνη ή άλλα αυτοματοποιημένα συστήματα. Πηγές ανέφεραν ότι ο στρατός στρέφεται με ταχύ ρυθμό στην AI για να βοηθήσει στη διαδικασία επιλογής στόχων, έναν τομέα που ενέχει τον προφανή κίνδυνο θανατηφόρων λαθών.

«Η χρήση της τεχνητής νοημοσύνης στην επιλογή στόχων σίγουρα εντείνεται και δεν υπάρχει πραγματική καθοδήγηση για το πώς η παρουσία ανθρώπου στη διαδικασία λήψης αποφάσεων θα αποτρέψει απώλειες αμάχων ή περιστατικά φίλιων πυρών», δήλωσε άλλη πηγή με γνώση των σημερινών πολιτικών του στρατού.

Το είδος της «παραισθήσεως» που παρήγαγε το εργαλείο το οποίο χρησιμοποίησε ο αναλυτής στη συγκεκριμένη περίπτωση δεν αποτελεί μεμονωμένο περιστατικό στις υπηρεσίες πληροφοριών, από τότε που αυτά τα εργαλεία άρχισαν να εξαπλώνονται σε ολόκληρη την κυβέρνηση, σύμφωνα με μία από τις πηγές.

Για ορισμένους παλαιότερους αξιωματούχους των υπηρεσιών πληροφοριών — ακόμη και για όσους υποστηρίζουν σε γενικές γραμμές τη χρήση της τεχνητής νοημοσύνης στον στρατό — η AI έχει εντείνει την πίεση προς τους αναλυτές να παράγουν και να διανέμουν πληροφορίες ταχύτερα, ανοίγοντας τον δρόμο για λάθη. Ιδίως οι νεότεροι αναλυτές, ανέφεραν αρκετές πηγές, είναι εξοικειωμένοι εκ φύσεως με αυτά τα εργαλεία και είναι πιο πιθανό να τα εμπιστεύονται χωρίς κριτική σκέψη.

«Η τεχνητή νοημοσύνη σού επιτρέπει να φτάσεις πιο γρήγορα σε μια κακή ιδέα», δήλωσε μία από τις πηγές.