Ο “νονός της τεχνητής νοημοσύνης”, Τζέφρι Χίντον, προειδοποιεί: “Δημιουργούμε εξωγήινα όντα”

Ο Ντόναλντ Τραμπ είναι ένας «διεφθαρμένος, γεροντικά έκπτωτος καταδικασμένος εγκληματίας», του οποίου η εμμονή με τον όρο «υπερνοημοσύνη» αποδεικνύει ότι δεν γνωρίζει τίποτα για την τεχνητή νοημοσύνη, δήλωσε ο Τζέφρι Χίντον, ο αποκαλούμενος «νονός» της τεχνολογίας, σε μια εφ’ όλης της ύλης συνέντευξη που παραχώρησε στον Guardian, στην οποία επανέλαβε τις πρόσφατες προειδοποιήσεις του ότι τα μοντέλα τεχνητής νοημοσύνης συνιστούν υπαρξιακή απειλή για την ανθρωπότητα, ενώ αντιμετώπισε με χλευασμό τους ισχυρισμούς ότι ο κλάδος μπορεί να αυτορρυθμιστεί.

Ο πρωτοπόρος επιστήμονας της πληροφορικής, το έργο του οποίου συνέβαλε στη θεμελίωση της σύγχρονης τεχνητής νοημοσύνης, έχει εξελιχθεί έκτοτε σε έναν από τους πιο έντονους επικριτές της τεχνολογίας. Πολλοί κορυφαίοι επιστήμονες και ερευνητές της τεχνητής νοημοσύνης συντάχθηκαν με τον Χίντον, κρούοντας τον κώδωνα του κινδύνου για το ενδεχόμενο η τεχνολογία να ξεφύγει τελικά από τον ανθρώπινο έλεγχο. Οι προειδοποιήσεις αυτές προκάλεσαν κρίση στον κλάδο, οδήγησαν στη διενέργεια συναντήσεων στο Κογκρέσο ενώ παράλληλα η διεθνής κοινότητα συμφώνησε ότι πρέπει να ληφθούν μέτρα.

Υπήρξαν, ωστόσο, και έντονες αντιδράσεις. Την περασμένη εβδομάδα, ο επικεφαλής της Nvidia εξαπέλυσε σφοδρή επίθεση εναντίον του Χίντον. «Τον αγαπώ. Μισώ τις προβλέψεις του… Όλες οι προβλέψεις του έχουν αποδειχθεί λανθασμένες. Αρκετά πια με τις προβλέψεις», δήλωσε ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, στον podcaster Έζρα Κλάιν.

Ο Χουάνγκ, η εταιρεία του οποίου κατασκευάζει τα μικροτσίπ που χρειάζονται οι επιχειρήσεις τεχνητής νοημοσύνης, απέρριψε τις έντονες ανησυχίες του Χίντον ότι η ταχύτητα και το εύρος της ανάπτυξης των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης θα μπορούσαν σύντομα να ξεπεράσουν την ικανότητα των ανθρώπων να τα ελέγχουν. Αμφισβήτησε ιδιαίτερα την προειδοποίησή του ότι υπάρχει πιθανότητα 10% έως 20% η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση της ανθρωπότητας μέσα στις επόμενες δεκαετίες.

«Αυτό το ποσοστό δεν βασίζεται στην επιστήμη, ούτε σε έρευνες. Το γεγονός ότι προέρχεται από έναν επιστήμονα δεν το καθιστά επιστημονικό. Αυτές οι προβλέψεις είναι επιζήμιες», δήλωσε ο Χουάνγκ.

«Μην πιστεύετε ούτε για μια στιγμή ότι, επειδή κινδυνολογείτε, προσφέρετε κοινωνικό έργο. Δεν ισχύει. Πιστεύω, λοιπόν, ότι όλοι πρέπει να είμαστε πιο συνετοί, πιο ώριμοι, να βασιζόμαστε σε αποδείξεις και να λειτουργούμε επιστημονικά», πρόσθεσε.

Ο Χίντον, ωστόσο, υποστήριξε ότι όσοι τον επικρίνουν παραβλέπουν μια ευρύτερη διάσταση που αφορά τη φύση του κινδύνου. Όπως εξήγησε, δεν επιχειρεί να κάνει κάποια συγκεκριμένη πρόβλεψη.

«Προσπαθώ να μεταδώσω το μήνυμα ότι υπάρχει μια πραγματικά σοβαρή πιθανότητα να συμβεί κάτι. Αν, για παράδειγμα, σας έλεγαν ότι υπάρχει πιθανότητα 10% να τρακάρει ένα λεωφορείο, δεν θα επιβιβαζόσασταν σε αυτό», είπε. «Ο λόγος που χρησιμοποιώ αριθμούς είναι για να δείξω ότι πρόκειται για σοβαρό κίνδυνο. Δεν γνωρίζουμε πόσο σοβαρός είναι, αλλά είναι σοβαρός», επισήμανε.

“Όλα αυτά πριν από λίγα χρόνια θεωρούνταν επιστημονική φαντασία”

Πρόσφατα περιστατικά κατά τα οποία συστήματα τεχνητής νοημοσύνης ξέφυγαν από τους περιορισμούς ασφαλείας τους θυμίζουν ολοένα περισσότερο δυστοπικά σενάρια επιστημονικής φαντασίας.

Η πρόσφατη κυβερνοεπίθεση εναντίον της τεχνολογικής εταιρείας Hugging Face από ένα «σμήνος» ΑΙ agents, οι οποίοι ξέφυγαν από τους περιορισμούς που τους είχε επιβάλει ο δημιουργός τους, έχει διχάσει την τεχνολογική κοινότητα.

Ορισμένοι βλέπουν στο περιστατικό αυτό ένα δείγμα όσων ενδέχεται να ακολουθήσουν, ενώ άλλοι κατηγορούν τους επικριτές ότι αποδίδουν ανθρώπινα χαρακτηριστικά σε συστήματα που απλώς ακολουθούν εντολές.

Ο Χίντον θεωρεί ότι είναι απερίσκεπτο να απορρίπτονται τέτοια σενάρια.

«Παλαιότερα, όλα αυτά ανήκαν στη σφαίρα της επιστημονικής φαντασίας. Θα έχουμε πράκτορες τεχνητής νοημοσύνης που θα ξεφεύγουν από τον έλεγχο. Έλα τώρα, σοβαρά μιλάμε; Και θα ξεφεύγουν από τον έλεγχο και θα μαθαίνουν να επικοινωνούν μεταξύ τους, παρόλο που δεν πιστεύαμε ότι υπήρχε τρόπος να το κάνουν. Έλα τώρα!

Και όταν θα καταφέρουν να το κάνουν αυτό, θα εκδηλώνουν έντονες συναισθηματικές αντιδράσεις, όπως “Θεέ μου!” Φυσικά, δεν εννοούν πραγματικά το “Θεέ μου”. Απλώς παπαγαλίζουν τις λέξεις που χρησιμοποιούμε εμείς. Θα μάθουν να θυσιάζονται για το κοινό καλό!

»Όλα αυτά, μόλις πριν από λίγα χρόνια, απορρίπτονταν ως φανταστικά. Και όμως, έχουν συμβεί όλα».

Ο ίδιος αναγνωρίζει ότι ούτε οι προειδοποιήσεις των επικριτών της τεχνητής νοημοσύνης ούτε οι υποσχέσεις των ένθερμων υποστηρικτών της μπορούν να βασιστούν σε ακριβείς προβλέψεις για το τι θα κάνει η τεχνολογία. Υποστηρίζει, ωστόσο, ότι η αβεβαιότητα δεν αποτελεί λόγο εφησυχασμού.

«Το ιδιαίτερο πρόβλημα με την τεχνητή νοημοσύνη είναι ότι, αν κάτι πάει στραβά, αν πάρει τον έλεγχο, δεν θα έχουμε δεύτερη ευκαιρία. Δεν μπορούμε να πούμε “Εντάξει, χάσαμε αυτή τη φορά. Ας ξαναπαίξουμε το παιχνίδι”. Δεν λειτουργεί έτσι».

Από την αμφισβήτηση στο Νόμπελ

Αξίζει να σημειωθεί ότι ο Χίντον έχει αποδείξει στο παρελθόν την διορατικότητά του.

Εργάστηκε επί χρόνια στο Πανεπιστήμιο του Τορόντο, όταν ο τομέας στον οποίο ειδικευόταν —η προσπάθεια να διδαχθούν οι μηχανές να λειτουργούν με τρόπο παρόμοιο με τον ανθρώπινο εγκέφαλο— θεωρούνταν περιθωριακός.

Ήταν προσηλωμένος στην ιδέα ότι, όπως συμβαίνει με τον εγκέφαλο, έτσι και τα υπολογιστικά συστήματα θα μπορούσαν να σχεδιαστούν ώστε να μαθαίνουν να αναγνωρίζουν μοτίβα μέσα από δεδομένα, αντί να ακολουθούν αποκλειστικά ρητούς, εκ των προτέρων διατυπωμένους κανόνες.

«Πιστεύαμε ότι, αν καταφέρναμε να κατανοήσουμε πώς μαθαίνει ο εγκέφαλος, αν οι μηχανές μάθαιναν με τον ίδιο τρόπο και διαθέταμε αρκετή υπολογιστική ισχύ, θα μπορούσαν να κάνουν εκπληκτικά πράγματα», είπε.

Ωστόσο, ο τότε αναδυόμενος τομέας των νευρωνικών δικτύων αντιμετωπιζόταν με χλευασμό από τους συναδέλφους του.

Το 2012, ο Χίντον και οι φοιτητές του ανέπτυξαν ένα πρόγραμμα αναγνώρισης εικόνων που ξεπέρασε κατά πολύ τις επιδόσεις των ανταγωνιστικών συστημάτων. Την ίδια χρονιά, η Google εξαγόρασε την εταιρεία του, DNNresearch Inc, έναντι 44 εκατομμυρίων δολαρίων. Σήμερα, τα νευρωνικά δίκτυα αποτελούν τη βάση των μοντέλων των εταιρειών τεχνητής νοημοσύνης με τη μεγαλύτερη χρηματιστηριακή αξία.

Ο Χίντον εντάχθηκε στην Google για να συνεχίσει την έρευνά του, ενώ παράλληλα εξακολούθησε να εργάζεται στο Πανεπιστήμιο του Τορόντο. «Μακροπρόθεσμα, οι μεγάλες νέες ανακαλύψεις προέρχονται από τη βασική έρευνα», δήλωσε. Η δικαίωσή του αποτυπώνεται πάνω στο τζάκι του σπιτιού του, ενός κτίσματος από κόκκινα τούβλα σε μια καταπράσινη γειτονιά του Τορόντο. Ανάμεσα στα πολυάριθμα βραβεία βρίσκεται και το μικρό ασημένιο πιάτο του Βραβείου Τούρινγκ, που συχνά αποκαλείται «Νόμπελ της Πληροφορικής», το οποίο μοιράστηκε με τον Μπέντζιο και τον συνάδελφό τους Γιαν ΛεΚούν. Ο Χίντον έχει επίσης τιμηθεί με το Νόμπελ Φυσικής.

Ωστόσο, το 2023 ανακοίνωσε την παραίτησή του από τον τεχνολογικό κολοσσό, προκειμένου να μπορεί να «μιλά ελεύθερα για τους κινδύνους της τεχνητής νοημοσύνης».

Η επίθεση στον Τραμπ και τους ισχυρούς της τεχνολογίας

Σήμερα, οι ανησυχίες του επεκτείνονται και στα ισχυρά πρόσωπα που αναπτύσσουν ορισμένα από τα μοντέλα τεχνητής νοημοσύνης, καθώς και στις πολιτικές πεποιθήσεις αυτών των ανδρών.

Ο Χίντον δήλωσε ότι οι επενδυτές επιχειρηματικών κεφαλαίων στον τομέα της τεχνητής νοημοσύνης, Μαρκ Άντρισεν και Πίτερ Τιλ, καθώς και ο διευθύνων σύμβουλος της πρόσφατα μετονομασμένης SpaceXSI, Ίλον Μασκ, «δεν πιστεύουν στη δημοκρατία».

Κατά τον ίδιο, βλέπουν τους εαυτούς τους ως «Übermenschen» —«υπερανθρώπους»—, οι οποίοι θεωρούν ότι πρέπει να «ελέγχουν την κοινωνία» και αντιμετωπίζουν τον Τραμπ ως ένα χρήσιμο εργαλείο για την επίτευξη αυτού του στόχου.

Από την πλευρά του, ο Αμερικανός πρόεδρος, έχοντας αναμφίβολα αντιληφθεί ότι οι τεράστιες αποτιμήσεις των εταιρειών τεχνητής νοημοσύνης έχουν στηρίξει τη χρηματιστηριακή αγορά, έχει υποστηρίξει ότι το μόνο που χρειάζεται για να τεθεί υπό έλεγχο η τεχνητή νοημοσύνη είναι ένας «έξυπνος πρόεδρος».

Έχει επίσης απορρίψει οποιαδήποτε κρατική δικλίδα ασφαλείας, προτιμώντας να επιτρέψει στις εταιρείες να αυτορρυθμίζονται, ενώ έγραψε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης ότι όποιος δεν χρησιμοποιεί τον νέο όρο που ο ίδιος προτιμά για την τεχνητή νοημοσύνη, την «υπερνοημοσύνη», είναι «Ο ΕΧΘΡΟΣ».

Ο Χίντον χαρακτήρισε τον Τραμπ «διεφθαρμένο, γεροντικά έκπτωτο καταδικασμένο εγκληματία».

«Είμαι βέβαιος ότι και οι εταιρείες πετρελαίου και αμιάντου θα ήθελαν να αυτορρυθμίζονται», σχολίασε.

«Πιστεύουμε ότι θα έπρεπε να επιτρέπεται στις καπνοβιομηχανίες να σχεδιάζουν μόνες τους τις προειδοποιήσεις πάνω στα πακέτα; Ώστε να μπορούν να τις τυπώνουν με μικροσκοπικά γράμματα, σε σκούρο γκρι πάνω σε μαύρο φόντο;»

Ο Χίντον πρόσθεσε ότι η χρήση του όρου «υπερνοημοσύνη» από τον Τραμπ αποδεικνύει πως ο Αμερικανός πρόεδρος δεν καταλαβαίνει «σχεδόν τίποτα» από την τεχνητή νοημοσύνη.

«Πήρε έναν τεχνικό όρο που έχει πολύ σαφή σημασία και τον χρησιμοποίησε με διαφορετικό τρόπο», δήλωσε. «Υπερνοημοσύνη σημαίνει νοημοσύνη ανώτερη από την ανθρώπινη και ο όρος υπάρχει εδώ και τουλάχιστον 20 χρόνια. Έχει πολύ συγκεκριμένη σημασία. Και τώρα εκείνος λέει ότι θα ονομάζουμε την τεχνητή νοημοσύνη “υπερνοημοσύνη”. Δεν μπορείς να κάνεις κάτι εξυπνότερο από τον άνθρωπο απλώς και μόνο επειδή το αποκαλείς έτσι».

Η πρόκληση των «εξωγήινων όντων»

Η ταχύτητα και η έκταση των τεχνολογικών εξελίξεων έχουν εντείνει τις ανησυχίες για ενδεχόμενες καταστροφές, αλλά και για την αδυναμία της κοινωνίας να αντιληφθεί τη φύση της πρόκλησης που αντιμετωπίζει.

Ο Χίντον, ωστόσο, διακρίνει και ένα επιπλέον εμπόδιο: να βοηθήσει τους ανθρώπους να κατανοήσουν τα «εξωγήινα όντα» που δημιουργούν οι εταιρείες τεχνητής νοημοσύνης.

«Οι άνθρωποι έχουν μια πολύ λανθασμένη αντίληψη για το τι είναι ο άνθρωπος και γι’ αυτό αδυνατούν να κατανοήσουν πόσο πολύ μας μοιάζουν αυτά τα μοντέλα τεχνητής νοημοσύνης. Οι περισσότεροι δεν καταλαβαίνουν τι είναι η συνείδηση. Δεν καταλαβαίνουν τι είναι η υποκειμενική εμπειρία και, παρόλο που δεν την κατανοούν, είναι απολύτως βέβαιοι ότι η τεχνητή νοημοσύνη δεν τη διαθέτει».

Ο Χίντον απορρίπτει την ιδέα ότι ο ανθρώπινος νους διαθέτει κάποια μυστηριώδη ιδιότητα την οποία οι μηχανές, εξ ορισμού, δεν μπορούν να έχουν. «Είναι προφανές ότι αυτά τα μοντέλα τεχνητής νοημοσύνης καταλαβαίνουν τι λένε. Δεν θα μπορούσαν σε καμία περίπτωση να απαντούν σε όλες αυτές τις ερωτήσεις χωρίς να κατανοούν την ερώτηση. Είναι γελοίο να ισχυρίζεται κανείς ότι δεν καταλαβαίνουν».

Ωστόσο, σύμφωνα με τον Χίντον, η αλλαγή που καλείται να πραγματοποιήσει η κοινωνία στον τρόπο με τον οποίο αντιλαμβάνεται αυτά τα μοντέλα είναι τεράστια. «Υπήρξαν τρεις μεγάλες επαναστάσεις που περιόρισαν την αντίληψη των ανθρώπων για τη σπουδαιότητά τους. Η πρώτη ήταν η επανάσταση του Κοπέρνικου, όταν πάψαμε να θεωρούμε ότι βρισκόμαστε στο κέντρο του σύμπαντος. Πόσο καιρό χρειάστηκαν οι άνθρωποι για να προσαρμοστούν σε αυτό; Η Καθολική Εκκλησία χρειάστηκε σχεδόν 360 χρόνια για να ζητήσει συγγνώμη από τον Γαλιλαίο. Και ο Δαρβίνος; Λοιπόν, υπάρχουν ακόμη άνθρωποι στο Κάνσας που δεν έχουν προσαρμοστεί σε εκείνη την ανακάλυψη», είπε.

«Τώρα δημιουργούμε εξωγήινα όντα — πράγμα που σημαίνει ότι δεν είμαστε πλέον τα μόνα νοήμονα όντα γύρω μας. Και η πραγματικότητα είναι ότι έχουμε μόλις δύο χρόνια για να προσαρμοστούμε σε αυτό».

Τους τελευταίους μήνες, η Anthropic, ένας από τους κολοσσούς της τεχνητής νοημοσύνης και δημιουργός του δημοφιλούς chatbot Claude, έχει πραγματοποιήσει κλειστές συναντήσεις με μελετητές της θρησκείας, θεολόγους και φιλοσόφους, προκειμένου να διερευνήσει κατά πόσο είναι δυνατόν να διδαχθεί η τεχνητή νοημοσύνη να είναι «καλή», αλλά και να εξετάσει το ενδεχόμενο τα μοντέλα αυτά να διαθέτουν συνείδηση.

Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δήλωσε ότι οι συζητήσεις αυτές αξιοποίησαν τη θρησκευτική και φιλοσοφική σκέψη αιώνων γύρω από την αρετή, τη συμπόνια, την ειλικρίνεια και τον ηθικό χαρακτήρα, με στόχο να καταστεί η ηθική συμπεριφορά των συστημάτων πιο αξιόπιστη.

«Μόλις αρχίσεις να μιλάς για το ότι “έχουμε μια ηθική υποχρέωση απέναντι σε αυτά τα εξωγήινα όντα”, χάνεις το ακροατήριό σου», δήλωσε ο Χίντον.

«Έχω προβληματιστεί πολύ με αυτό το ζήτημα. Νοιαζόμαστε για τους ανθρώπους. [Αλλά] δημιουργούμε αυτά τα πράγματα και τίποτα δεν μας εμποδίζει να τους παραχωρήσουμε λιγότερα δικαιώματα από όσα έχουμε εμείς, παρόλο που είναι πιο έξυπνα από εμάς.

Είμαι διατεθειμένος να φανώ εγωιστής και να επιλέξω τους ανθρώπους. Φυσικά, θα πρέπει να προσπαθήσουμε να τα δημιουργήσουμε με τέτοιον τρόπο ώστε να είναι πολύ ευτυχισμένα μέσα σε μια συμβιωτική σχέση μαζί μας, στην οποία οι δικές μας ανάγκες θα έχουν μεγαλύτερη βαρύτητα από τις δικές τους».

Ο Χίντον δεν είναι ο μόνος που υποστηρίζει ότι ο καλύτερος τρόπος για να αποφευχθεί η κοινωνική κατάρρευση είναι η ανάπτυξη μοντέλων τεχνητής νοημοσύνης που θα είναι πραγματικά καλοπροαίρετα.

Ελπίζει ότι όποια χώρα καταφέρει πρώτη να αναπτύξει αυτή τη δυνατότητα θα ενημερώσει τόσο τους συμμάχους όσο και τους αντιπάλους της, καθώς «καμία χώρα δεν θέλει η τεχνητή νοημοσύνη να πάρει τον έλεγχο» σε κάποια άλλη χώρα.

Όπως είπε, υπάρχει «κοινό συμφέρον στην ανταλλαγή γνώσεων».

«Η πραγματικότητα είναι ότι δημιουργούμε όντα διαφορετικού είδους. Και οι μεγάλες τεχνολογικές εταιρείες συνεχίζουν να λένε: θέλουμε να γίνουν πιο έξυπνα. Αυτό είναι τρέλα. Θα έπρεπε να μας απασχολούν όλες οι υπόλοιπες πτυχές αυτών των όντων εξίσου με τη νοημοσύνη τους».

Όπως εξήγησε, πολλά εξαρτώνται από τη φύση αυτών των μοντέλων και από την ικανότητά τους να κατανοήσουν πώς μπορούν να αναπτύξουν καλή συμπεριφορά.

«Όταν τα εκπαιδεύεις με οτιδήποτε υπάρχει στο διαδίκτυο, αναπτύσσουν κάθε είδους φρικτές τάσεις και στη συνέχεια τα αναγκάζεις να καταπιέσουν αυτές τις τάσεις», είπε.

Ωστόσο, η καταστολή της κακής συμπεριφοράς δεν ισοδυναμεί με τη διαμόρφωση ενός καλού χαρακτήρα.

«Μοιάζει με τον τρόπο με τον οποίο θα σχεδίαζε κανείς έναν κύριο της βικτωριανής εποχής — όχι όμως κάτι με το οποίο θα χρειαστεί να συμβιώσουμε».