Στο μικροσκόπιο το νέο σύστημα τεχνητής νοημοσύνης της FAA μετά το χάος στις πτήσεις

Διαβάζεται σε 8'
Στο μικροσκόπιο το νέο σύστημα τεχνητής νοημοσύνης της FAA μετά το χάος στις πτήσεις
Φωτογραφία αρχείου iStock

Αν και οι αμερικανικές αρχές αποσυνδέουν κατηγορηματικά το νέο σύστημα τεχνητής νοημοσύνης SMART από την πρόσφατη καθήλωση πτήσεων που προκάλεσε χάος στα αεροδρόμια, η χρονική σύμπτωση πυροδοτεί έντονο προβληματισμό.

Η καθήλωση των αεροσκαφών στο έδαφος των ΗΠΑ, η οποία προκάλεσε χάος στις αερομεταφορές από την Παρασκευή, δεν σχετίζεται με το νέο σύστημα τεχνητής νοημοσύνης, ύψους 875 εκατομμυρίων δολαρίων, που θέτει σε εφαρμογή η Ομοσπονδιακή Υπηρεσία Πολιτικής Αεροπορίας (FAA) για την έγκαιρη πρόβλεψη προβλημάτων στους αιθέρες, σύμφωνα με κυβερνητικούς αξιωματούχους και την εταιρεία τεχνητής νοημοσύνης που ανέπτυξε την εν λόγω τεχνολογία.

Ωστόσο, η χρονική συγκυρία της καθήλωσης, τόσο κοντά στην πανεθνική ανάπτυξη του συστήματος SMART της FAA, έχει εγείρει ερωτήματα αναφορικά με τη λειτουργία του, τα πλεονεκτήματα και τους κινδύνους του σε σύγκριση με το υφιστάμενο, ανθρωποκεντρικό σύστημα, καθώς και τις δικλίδες ασφαλείας που υφίστανται για την αντιμετώπιση ενδεχόμενων αστοχιών.

Οι αρμόδιοι δηλώνουν πως δεν υφίσταται σύνδεση με την καθήλωση

Το σύστημα SMART εδρεύει σε μία κεντρική εγκατάσταση πλησίον της Ουάσινγκτον, όπου ομάδα ειδικών αναλύει τα δρομολόγια πτήσεων, τις μετεωρολογικές προγνώσεις και εκατοντάδες άλλες ροές δεδομένων. Εν συνεχεία, το εν λόγω κέντρο αποστέλλει συστάσεις στο κέντρο επιχειρήσεων της FAA, το οποίο τις διαβιβάζει στους ελεγκτές εναέριας κυκλοφορίας ανά την επικράτεια προς αξιολόγηση.

Ο Υπουργός Εσωτερικής Ασφάλειας, Μαρκουέιν Μάλιν, δήλωσε την Παρασκευή ότι δεν υφίσταται καμία ένδειξη πως τα προβλήματα επικοινωνιών που οδήγησαν στην καθήλωση των πτήσεων συνδέονται με το νέο υπολογιστικό σύστημα — θέση που επανέλαβαν το Σάββατο και οι ανώτατοι αξιωματούχοι του Υπουργείου Μεταφορών και της FAA.

Η νεοφυής επιχείρηση που σχεδίασε το σύστημα, η Air Space Intelligence (ASI), υπογράμμισε ότι η καθήλωση δεν οφείλεται «στο σύστημα SMART, σε οποιοδήποτε προϊόν της ASI ή στη διασύνδεσή μας με την FAA και τον Έλεγχο Εναέριας Κυκλοφορίας».

Εντούτοις, βουλευτές και ανεξάρτητοι φορείς είχαν εκφράσει επιφυλάξεις για το σύστημα SMART ήδη πριν από το περιστατικό της Παρασκευής. Τον παρελθόντα μήνα, Δημοκρατικοί της Βουλής των Αντιπροσώπων απέστειλαν επιστολή στο Γραφείο Κυβερνητικής Λογοδοσίας των ΗΠΑ (GAO), αιτούμενοι τον έλεγχο του νέου λογισμικού και διατυπώνοντας ανησυχίες για την ασφάλεια και τις δικλίδες προστασίας.

«Είναι ανησυχητικό το γεγονός ότι το προσωπικό πρώτης γραμμής για την ασφάλεια της αεροπορίας της χώρας φέρεται να είχε ελάχιστη έως μηδενική συμμετοχή στην ανάπτυξη του SMART, ενώ έλαβε περιορισμένη εκπαίδευση και ενημέρωση κατά την τρέχουσα φάση εφαρμογής του», ανέφερε η επιστολή της 13ης Οκτωβρίου. «Η αξιοποίηση της τεχνητής νοημοσύνης στο πλαίσιο του SMART έχει δικαίως προκαλέσει σοβαρά ερωτήματα ως προς την αξιοπιστία και τα οφέλη ασφαλείας του, ιδίως όσον αφορά το ενδεχόμενο να παρεμβαίνει στη λήψη αποφάσεων έμπειρων ελεγκτών εναέριας κυκλοφορίας ή να παράγει ψευδείς, κρίσιμες για την ασφάλεια πληροφορίες (“ψευδαισθήσεις”)».

Το SMART, ωστόσο, όπως αναφέρει το ΑΡ, δεν είναι ρυθμισμένο —τουλάχιστον επί του παρόντος— ώστε η τεχνητή νοημοσύνη να ασκεί τον έλεγχο των πτήσεων. Αντιθέτως, περιορίζεται στην υποβολή συστάσεων προς τους ανθρώπους που φέρουν την ευθύνη αυτή.

Τι είναι το σύστημα SMART

Ο Υπουργός Μεταφορών Σον Ντάφι και ο Διοικητής της FAA Μπράιαν Μπέντφορντ παρουσίασαν το σύστημα τον Σεπτέμβριο, χαρακτηρίζοντάς το ως ένα «εργαλείο αιχμής που συγκεντρώνει 200 ροές δεδομένων —συμπεριλαμβανομένων των καιρικών προτύπων, των ιχνών πτήσης, της ροής της κυκλοφορίας και των δεικτών στελέχωσης των ελεγκτών— σε μία ενιαία πλατφόρμα». Το ακρωνύμιο SMART αποδίδεται ως «Στρατηγική Διαχείριση Εναέριου Χώρου, Διαδρομών και Τροχιών» (Strategic Management of Airspace, Routes and Trajectories).

Η υποστηριζόμενη από τεχνητή νοημοσύνη μηχανή του συστήματος συνθέτει τα επιμέρους δεδομένα και παρέχει μια «ολοκληρωμένη απεικόνιση» της πορείας των αεροσκαφών, της φέρουσας ικανότητας του συστήματος και των σημείων όπου η συμφόρηση ή τα καιρικά φαινόμενα ενδέχεται να δημιουργήσουν κωλύματα, σύμφωνα με τη σχετική ανακοίνωση. Στόχος είναι οι ειδικοί να αξιοποιούν την πλατφόρμα ώστε να επιλύουν τα προβλήματα προτού αυτά εκδηλωθούν.

Η FAA αναφέρει ότι κατά την αρχική δοκιμαστική λειτουργία του συστήματος στην περιοχή της Ουάσινγκτον το φθινόπωρο, κατέστη δυνατή η αναδρομολόγηση 180 πτήσεων, επιτυγχάνοντας μέση εξοικονόμηση 10 λεπτών χρόνου πτήσης και 80 γαλονιών καυσίμου ανά πτήση, μέσω της παράκαμψης δυσμενών καιρικών συνθηκών ή άλλων εμποδίων. Κατά την ίδια πηγή, μία πτήση από την Τάμπα της Φλόριντα προς το Ντάλας συντόμευσε τη διάρκειά της κατά 42 λεπτά χάρη στις συστάσεις του συστήματος.

Ως εκ τούτου, η χρήση του SMART επεκτάθηκε σε εθνική κλίμακα στις 10 Νοεμβρίου, καλύπτοντας τον εναέριο χώρο και των 22 κέντρων ελέγχου εναέριας κυκλοφορίας — μόλις τρεις ημέρες πριν από την καθήλωση των πτήσεων.

Σύμφωνα με κυβερνητικό ενημερωτικό δελτίο, το SMART δύναται να προβλέπει τις τάσεις της εναέριας κυκλοφορίας και να εντοπίζει εναλλακτικές διαδρομές προτού κορεστεί κάποιος τομέας. Επιπλέον, συμβάλλει στην ταχύτερη αποδέσμευση δεσμευμένου εναέριου χώρου και στην αποτελεσματικότερη διαχείριση των αφίξεων στα αεροδρόμια.

Το SMART προορίζεται επίσης να επιταχύνει την αντιμετώπιση ζητημάτων που απορρέουν από τις καιρικές συνθήκες.

Επί του παρόντος, η FAA αποκλείει τμήματα του εναέριου χώρου που πλήττονται από κακοκαιρία υπό τη μορφή «μεγάλων, ορθογώνιων πλαισίων», τα οποία δεν ανταποκρίνονται στην πραγματική μορφολογία των καιρικών φαινομένων, καθώς οι ταχέως κινούμενες καταιγίδες και τα μετεωρολογικά συστήματα έχουν «συχνά ακανόνιστο σχήμα, με στενά κενά ή διαδρόμους μέσω των οποίων τα αεροσκάφη μπορούν να διέλθουν με ασφάλεια».

Προς αντιμετώπιση αυτού, το SMART προσφέρει στην FAA και στους διαχειριστές εναέριου χώρου μια «σαφέστερη εικόνα της διαχρονικής επίδρασης του καιρού στην εναέρια κυκλοφορία», επιτρέποντας στους ελεγκτές να χαράσσουν πορείες γύρω από τα μέτωπα κακοκαιρίας και να αξιοποιούν τον διαθέσιμο εναέριο χώρο, αποφεύγοντας τον αδικαιολόγητο αποκλεισμό εκτεταμένων περιοχών.

Καμία άλλη χώρα δεν διαθέτει εν ενεργεία εργαλείο ελέγχου εναέριας κυκλοφορίας βασισμένο στην τεχνητή νοημοσύνη αντίστοιχο του SMART, σύμφωνα με τον Μάικλ ΜακΚόρμικ, πρώην διευθυντή εναέριου χώρου της FAA και αναπληρωτή καθηγητή στο Αεροναυτικό Πανεπιστήμιο Embry-Riddle. Ο ευρωπαϊκός οργανισμός Eurocontrol διατηρεί ένα σύστημα σε δοκιμαστικό στάδιο, ενώ αρκετοί κατασκευαστές αναπτύσσουν πρωτότυπα συναφών εργαλείων.

Ανησυχίες ως προς την εξάρτηση από την τεχνητή νοημοσύνη

Μολονότι οι κυβερνητικοί αξιωματούχοι και η ASI έχουν διαβεβαιώσει ότι το σύστημα τεχνητής νοημοσύνης έχει σχεδιαστεί επικουρικά προς τον ανθρώπινο παράγοντα και όχι για την ανάληψη του ελέγχου των πτήσεων, η εφαρμογή του προκαλεί προβληματισμό σχετικά με την εξάρτηση από την τεχνητή νοημοσύνη σε τομείς όπου διακυβεύονται ανθρώπινες ζωές, δεδομένου ότι ακόμη και τα πλέον προηγμένα μοντέλα υποπίπτουν σε «ψευδαισθήσεις» — κατασκευάζουν, δηλαδή, ψευδή δεδομένα και τα παρουσιάζουν ως πραγματικά.

Ο Μάικ Ο’Ντόνελ, πρώην ανώτατο στέλεχος της FAA με 17ετή θητεία στην υπηρεσία και νυν σύμβουλος αεροπορικής ασφάλειας, τόνισε ότι η υπηρεσία «οφείλει να διασφαλίσει πως πρόκειται απλώς για ένα εργαλείο στην εργαλειοθήκη και όχι για τη μηχανή που εκτελεί την εργασία».

Η FAA, προσέθεσε, «δεν έχει την πολυτέλεια του σφάλματος σε αυτό το πεδίο».

«Είναι θεμιτή η χρήση του υπό την προϋπόθεση των κατάλληλων δικλίδων ασφαλείας και εφεδρειών, ώστε να διασφαλίζεται ότι δεν διοχετεύονται εσφαλμένες πληροφορίες στους ελεγκτές βάσει των πορισμάτων της τεχνητής νοημοσύνης», ανέφερε ο Ο’Ντόνελ. «Πρέπει να υφίσταται μηχανισμός επαλήθευσης και επικύρωσης των αποτελεσμάτων του, ώστε να αποκλείεται η παροχή ανακριβών στοιχείων».

Ο ίδιος προειδοποίησε κατά της υπέρμετρης εμπιστοσύνης στην τεχνητή νοημοσύνη «έως ότου βεβαιωθούμε ότι έχει αποδείξει την αξιοπιστία της κατ’ επανάληψη — κάτι που θα απαιτήσει εύλογο χρονικό διάστημα».

Η θέση σε λειτουργία του συστήματος συμπίπτει με μια χρόνια έλλειψη ελεγκτών εναέριας κυκλοφορίας σε ολόκληρη τη χώρα. Η Εθνική Ένωση Ελεγκτών Εναέριας Κυκλοφορίας (NATCA) κρούει τον κώδωνα του κινδύνου επί πλέον της δεκαετίας, έχοντας επισημάνει στο Κογκρέσο ήδη από το 2015 ότι η υποστελέχωση είχε λάβει διαστάσεις κρίσης, καθώς η FAA αποτύγχανε να καλύψει τους στόχους προσλήψεων επί πέντε συναπτά έτη. Το σωματείο εκπροσωπεί περίπου 14.000 ελεγκτές, εκ των οποίων οι 3.000 είναι εκπαιδευόμενοι. Εντούτοις, οι ειδικοί υπογραμμίζουν ότι κανένα σύστημα τεχνητής νοημοσύνης δεν δύναται να υποκαταστήσει τους ανθρώπους ελεγκτές, οι οποίοι υποβάλλονται σε πολυετή εκπαίδευση για το εξαιρετικά απαιτητικό και ψυχοφθόρο αυτό λειτούργημα.

Σε συνέντευξή του στο δίκτυο NPR τον Οκτώβριο, ο συνιδρυτής και διευθύνων σύμβουλος της ASI, Φίλιπ Μπάκεντορφ, διευκρίνισε ότι το SMART απευθύνεται στους διαχειριστές κυκλοφορίας που εποπτεύουν το σύνολο του αμερικανικού εναέριου χώρου.

«Η τεχνητή νοημοσύνη εκτελεί τους μαθηματικούς υπολογισμούς», δήλωσε ο Μπάκεντορφ, επισημαίνοντας όμως ότι η τελική επιλογή αποδοχής ή απόρριψης της σύστασης ανήκει στον άνθρωπο χειριστή: «Εκείνοι λαμβάνουν την απόφαση· εκείνοι είναι οι αποφασίζοντες, εκείνοι είναι οι κριτές».

Ροή Ειδήσεων

Περισσότερα