Γιατί τα οχήματα χωρίς οδηγό δεν μπορούν να αποδεσμευτούν από τους ανθρώπους

«Δεν υπάρχει κανείς μέσα στο φορτηγό», δήλωσε ο Sterling Anderson, συνιδρυτής της εταιρείας αυτόνομων φορτηγών Aurora, σε μια συνέντευξη σε podcast πέρυσι. «Δεν παριστάνουμε τον Μάγο του Οζ.»

Ο Anderson αναφερόταν στα σχέδια της εταιρείας να ξεκινήσει μια εμπορική υπηρεσία παραδόσεων με αυτόνομα φορτηγά μεταξύ του Ντάλας και του Χιούστον στο Τέξας. Αυτό που εννοούσε, νομίζω, ήταν το εξής: η τεχνολογία μας δεν είναι κόλπο βιτρίνας. Δεν θα υπάρχει άνθρωπος κρυμμένος πίσω από την κουρτίνα, όπως στον Μάγο του Οζ.

Τον Μάιο φέτος, η Aurora ανακοίνωσε ότι η εμπορική της υπηρεσία αυτόνομων φορτηγών είχε επίσημα ξεκινήσει. Λίγες εβδομάδες αργότερα, όμως, η εταιρεία έκανε άλλη μία ανακοίνωση: ο συνεργάτης της στην κατασκευή φορτηγών, η PACCAR, «ζήτησε να υπάρχει άτομο στο κάθισμα του οδηγού, λόγω ορισμένων πρωτότυπων εξαρτημάτων στην πλατφόρμα βάσης του οχήματός τους» και «μετά από πολλή σκέψη, σεβαστήκαμε το αίτημά τους και μετακινούμε τον παρατηρητή, που καθόταν στο πίσω κάθισμα σε ορισμένα από τα δρομολόγιά μας, από το πίσω στο μπροστινό κάθισμα».

Η Aurora επέμεινε ότι αυτό δεν ήταν αναγκαίο για την ασφαλή λειτουργία του φορτηγού, και ότι ο παρατηρητής δεν θα χειριζόταν το όχημα. Παρ’ όλα αυτά, ήταν ξεκάθαρα ένα πλήγμα για τη φιλοδοξία της, να μην υπάρχει «κανείς στο φορτηγό». Πέρα από τον φόβο ότι μπορεί να φανεί πως «παριστάνουν τον Μάγο του Οζ», η επενδυτική πρόταση για αυτόνομα φορτηγά δεν φαίνεται τόσο ελκυστική, αν πρέπει να πληρώνεις κάποιον για να κάθεται σε κάθε ένα από αυτά.

Η Aurora δεν είναι η μόνη εταιρεία αυτόνομων οχημάτων που δεν έχει καταφέρει να αποδεσμευτεί πλήρως από την ανθρώπινη παρουσία. Όταν η Tesla λάνσαρε την υπηρεσία robotaxi τον περασμένο μήνα στο Όστιν του Τέξας, τα αυτοκίνητα είχαν ανθρώπινους «παρατηρητές ασφαλείας» στα καθίσματα των επιβατών. Ακόμα και οι πιο καθιερωμένες υπηρεσίες αυτόνομων ταξί, που δεν έχουν κανέναν μέσα στο αυτοκίνητο, εξακολουθούν να έχουν ανθρώπους στο παρασκήνιο. Στην Κίνα, τα robotaxi της Baidu ξεκίνησαν με «απομακρυσμένους ανθρώπινους χειριστές» που μπορούσαν να αναλάβουν τον έλεγχο των αυτοκινήτων εάν χρειαστεί. Η Waymo, αντίθετα, δεν έχει «απομακρυσμένους οδηγούς», αλλά διαθέτει «ανθρώπινους πράκτορες απόκρισης στόλου». Τα μπερδεμένα Waymo παραμένουν υπό τον έλεγχο του αυτόματου συστήματος, αλλά μπορούν να ζητούν συμβουλές από αυτούς τους ανθρώπους.

Αν οι άνθρωποι είναι τόσο κακοί οδηγοί (όπως ισχυρίζονται πολλές εταιρείες αυτόνομων οχημάτων), γιατί δεν μπορούν τα υποτίθεται ανώτερα μηχανήματα να τα καταφέρουν χωρίς αυτούς; Επειδή τα μηχανήματα και οι άνθρωποι είναι καλοί σε διαφορετικά πράγματα. Τα μηχανήματα δεν κουράζονται, δεν βαριούνται, δεν μεθούν και δεν αποσπώνται, αλλά δυσκολεύονται με τα «ακραία σενάρια» της πραγματικής ζωής που απαιτούν ενσυναίσθηση και διαισθητική κρίση, όπως το πώς να παρακάμψουν ένα εμπόδιο στον δρόμο ή τι προσπαθεί να υποδείξει ένας εργάτης οδοποιίας που κουνάει τα χέρια του. Επιπλέον, κάθε ασφαλές σύστημα πρέπει να διαθέτει ένα εφεδρικό πλέγμα ασφαλείας σε περίπτωση τεχνικών προβλημάτων.

Με αυτή την έννοια, οι εταιρείες αυτόνομων οχημάτων αξίζουν επαίνους που διατηρούν την ανθρώπινη παρουσία. Αυτό δεν σημαίνει ότι προσπαθούν να μας ξεγελάσουν με κάποιο κόλπο. Αλλά σημαίνει ότι πρέπει να γνωρίζουμε πολύ περισσότερα για το πώς ακριβώς λειτουργούν αυτοί οι ανθρώπινοι ρόλοι.

Κι αυτό γιατί τα συστήματα που βασίζονται σε συνδυασμό μηχανών και ανθρώπων μπορεί να υποφέρουν από πολλά καλά τεκμηριωμένα προβλήματα. Οι άνθρωποι που καλούνται να επιβλέπουν την ασφάλεια μπορεί να υποφέρουν από «εφησυχασμό αυτοματοποίησης», δηλαδή την ανθρώπινη τάση να χάνουν τη συγκέντρωσή τους κατά την επίβλεψη αυτόνομων συστημάτων. Οι απομακρυσμένοι οδηγοί μπορεί να δυσκολεύονται με τεχνικά ζητήματα όπως προβλήματα σύνδεσης και χαμηλή ταχύτητα απόκρισης. Υπάρχουν επίσης ερωτήματα ευθύνης: αν ένας άνθρωπος σε ένα κέντρο υποστήριξης δώσει κακή συμβουλή σε ένα αυτόνομο όχημα και προκληθεί ατύχημα, ποιος ευθύνεται; Η τεχνολογική εταιρεία; Ο εργοδότης; Το ίδιο το άτομο; Τι γίνεται αν αυτός ο άνθρωπος δεν βρίσκεται καν στην ίδια πολιτεία, ή ούτε καν στην ίδια χώρα;

Ο Bryant Walker Smith, αναπληρωτής καθηγητής νομικής στο Πανεπιστήμιο της Νότιας Καρολίνας, μου είπε ότι το βάρος πρέπει να πέφτει στις ίδιες τις εταιρείες αυτόνομων οχημάτων να εξηγήσουν ακριβώς τι κάνουν και γιατί θεωρούν ότι είναι ασφαλές. «Οι ρυθμιστικές αρχές πρέπει απολύτως να εξετάσουν κάθε πτυχή αυτού», είπε.

Ωστόσο, μέχρι στιγμής, πολλοί από αυτούς τους ανθρώπινους ρόλους παραμένουν στη σκιά. Όταν έστειλα μια λίστα με βασικές ερωτήσεις στις Waymo, Tesla και Aurora, μόνο η Waymo απάντησε.

Η εταιρεία αρνήθηκε να πει πόσα άτομα εργάζονται στην ομάδα απόκρισης στόλου της, αλλά δήλωσε ότι απασχολούνται από την Cognizant, μια εταιρεία πληροφορικής, ότι απαιτείται να διαθέτουν άδεια οδήγησης και ότι «βρίσκονται στην Αριζόνα, στο Μίσιγκαν και σε μια υπεράκτια τοποθεσία». Όταν ρώτησα σχετικά με τις γραμμές λογοδοσίας, η εταιρεία δήλωσε ότι «στο βαθμό που ένα όχημα της Waymo εμπλέκεται σε σύγκρουση που προκαλεί ζημιά σε περιουσία ή τραυματισμό, η Waymo θα είναι υπεύθυνη για την ευθύνη που της επιβάλλεται από τον νόμο».

Δεν πρέπει να θεωρείται πρόβλημα ότι τα αυτόνομα οχήματα εξακολουθούν να χρειάζονται υποστήριξη από ανθρώπους στο παρασκήνιο. Αλλά ούτε και θα πρέπει αυτοί οι ρόλοι να παραμένουν κρυμμένοι. Έφτασε η ώρα οι ρυθμιστικές αρχές να τραβήξουν την κουρτίνα.