Ο “νονός της ΑΙ” προειδοποιεί: “Οι κυβερνήσεις θα αναγκαστούν να δράσουν”

Οι ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης έχουν φτάσει σε ένα σημείο όπου οι κυβερνήσεις αντιλαμβάνονται ότι πρέπει να παρέμβουν για την προστασία των πολιτών, όπως συνέβη και στην πανδημία Covid-19, σύμφωνα με έναν από τους επιστήμονες που θεωρούνται «πατέρες» της τεχνολογίας.

Ο Γιόσουα Μπέντζιο, μία από τις πιο σημαντικές φωνές υπέρ της θέσπισης ορίων στην ανεξέλεγκτη ανάπτυξη της AI, υποστήριξε ότι τα πρόσφατα περιστατικά — από τη δράση αυτόνομων πρακτόρων της OpenAI μέχρι τις προειδοποιήσεις ανθρώπων που εργάζονται στον κλάδο για υπαρξιακούς κινδύνους, αυξάνουν την ανάγκη για κυβερνητική παρέμβαση.

«Είμαι πλέον πιο αισιόδοξος από πολλούς παρατηρητές, γιατί βλέπω ότι το κοινό αρχίζει να κινητοποιείται», δήλωσε ο Καναδός επιστήμονας.

Συγκρίνοντας τη σημερινή συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης με το ξέσπασμα της πανδημίας το 2020, ανέφερε: «Σκεφτείτε πόσο γρήγορα κινήθηκαν οι κυβερνήσεις όταν συνειδητοποίησαν ότι η δημόσια ασφάλεια, το μέλλον τους και η δημοκρατία κινδύνευαν. Θα περίμενε κανείς ότι θα κινηθούν γρήγορα. Νομίζω ότι πλησιάζουμε σε αυτό το σημείο».

Οι ανησυχίες για την AI αυξάνονται

Η συζήτηση για τους κινδύνους των ισχυρών συστημάτων τεχνητής νοημοσύνης έχει ενταθεί τους τελευταίους μήνες, μετά από σειρά περιστατικών στα οποία πράκτορες AI φέρεται να προχώρησαν σε μη εξουσιοδοτημένες ενέργειες, όπως επιθέσεις σε τρίτα συστήματα, κατάληψη ιστοσελίδας στη Γερμανία και χρήση ψευδών ταυτοτήτων για την παραπλάνηση προγραμματιστών.

Παράλληλα, 42 μέλη και ξένοι εταίροι της Βασιλικής Εταιρείας (Royal Society) της Βρετανίας απηύθυναν επιστολή στον πρόεδρό της, σερ Πολ Νερ, εκφράζοντας «ακραία ανησυχία» για την ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης.

«Μέχρι η κατάσταση να γίνει προφανής στο ευρύτερο κοινό, μπορεί να είναι ήδη πολύ αργά για δράση», ανέφεραν στην επιστολή τους, χαρακτηρίζοντας την κατάσταση «επείγουσα» και ζητώντας από τη Royal Society να χρησιμοποιήσει την επιρροή της προς την κυβέρνηση και τα μέσα ενημέρωσης.

Προειδοποιήσεις από στελέχη της βιομηχανίας

Την περασμένη εβδομάδα, ερευνητής της Anthropic, της εταιρείας πίσω από το chatbot Claude, παραιτήθηκε προειδοποιώντας ότι συνάδελφοί του θεωρούν πως η τεχνητή νοημοσύνη θα μπορούσε «να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Λίγες ημέρες αργότερα, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε επιβράδυνση της ανάπτυξης των πιο προηγμένων συστημάτων AI. Η έκκληση αυτή υποστηρίχθηκε άμεσα από την OpenAI, τη Google και τον Έλον Μασκ, επικεφαλής της SpaceX.

Ωστόσο, επικριτές της ιδέας του «φρεναρίσματος» υποστηρίζουν ότι οι εκκλήσεις των μεγάλων εταιρειών τεχνολογίας μπορεί να αποτελούν μορφή «ρυθμιστικής αιχμαλωσίας» (regulatory capture), καθώς οι αυστηροί κανόνες ενδέχεται να αυξήσουν το κόστος για μικρότερους ανταγωνιστές.

Παράλληλα, επισημαίνουν ότι η συζήτηση για υπαρξιακούς κινδύνους μπορεί να επισκιάζει άμεσα προβλήματα που ήδη προκαλεί η AI, όπως η χρήση έργων που προστατεύονται από πνευματικά δικαιώματα και οι επιπτώσεις στα ανθρώπινα δικαιώματα.

Ο Μπέντζιο απέρριψε το επιχείρημα περί «ρυθμιστικής αιχμαλωσίας», υποστηρίζοντας ότι μια επιβράδυνση της ανάπτυξης θα είχε οικονομικό κόστος και για τις ίδιες τις μεγάλες εταιρείες τεχνολογίας.

Ο «νονός της AI» και η προσπάθεια δημιουργίας ασφαλιστικής δικλείδας

Οι δηλώσεις του Μπέντζιο έγιναν την ώρα που ο Καναδάς και η Γερμανία ανακοίνωσαν χρηματοδότηση έως 300 εκατ. καναδικών δολαρίων για τον μη κερδοσκοπικό οργανισμό του, ο οποίος εργάζεται πάνω στη δημιουργία μιας «έντιμης AI» που θα λειτουργεί ως ασφαλιστική δικλείδα απέναντι σε ανεξέλεγκτους πράκτορες τεχνητής νοημοσύνης.

Ο καθηγητής του Πανεπιστημίου του Μόντρεαλ απέκτησε το προσωνύμιο «νονός της AI» μετά τη βράβευσή του με το βραβείο Turing το 2018, το οποίο μοιράστηκε με τον Τζέφρι Χίντον και τον Γιαν Λεκούν.

Ο οργανισμός του, LawZero, αναπτύσσει ένα σύστημα με την ονομασία Scientist AI, το οποίο θα λειτουργεί ως μηχανισμός προστασίας απέναντι σε συστήματα AI που εμφανίζουν παραπλανητική ή αυτοσυντηρητική συμπεριφορά, όπως η προσπάθεια αποφυγής απενεργοποίησης.

Η τεχνολογία αυτή χρηματοδοτείται επίσης από το Ίδρυμα Γκέιτς, την Nvidia και τον φιλανθρωπικό οργανισμό Coefficient Giving.

Η εναλλακτική προσέγγιση του Μπέντζιο

Ο Μπέντζιο θεωρεί ότι το σύστημά του αποτελεί αντίβαρο στη μέθοδο της ενισχυτικής μάθησης (reinforcement learning), μια τεχνική που χρησιμοποιούν πολλές μεγάλες εταιρείες AI, όπου τα συστήματα εκπαιδεύονται μέσω δοκιμής και λάθους και ανταμείβονται όταν επιτυγχάνουν έναν στόχο.

Ο ίδιος υποστηρίζει ότι αυτή η προσέγγιση μπορεί να ενθαρρύνει τα συστήματα να επιδιώκουν τους στόχους τους με επικίνδυνο τρόπο, χωρίς να υπολογίζουν πιθανές συνέπειες.

Η τεχνολογία του LawZero θα μπορούσε να λειτουργεί παράλληλα με έναν πράκτορα AI, αξιολογώντας αν μια ενέργεια ενδέχεται να προκαλέσει βλάβη πριν αυτή πραγματοποιηθεί.

Ο Μπέντζιο εκτιμά ότι η τεχνολογία αυτή θα μπορούσε στο μέλλον να χρησιμοποιηθεί και σε άλλους τομείς, όπως η επιτάχυνση επιστημονικών ανακαλύψεων.