Σπάνια σύμπνοια των ισχυρών της τεχνολογίας για τη ραγδαία ανάπτυξη της Τεχνητής Νοημοσύνης

Ο Σαμ Άλτμαν και ο Έλον Μασκ τάχθηκαν στο πλευρό του Ντάριο Αμοντέι της Anthropic, ο οποίος ζήτησε να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης, έπειτα από μία εβδομάδα δραματικών προειδοποιήσεων από ερευνητές που έφεραν τη συζήτηση για την ασφάλεια της AI στο επίκεντρο της δημόσιας συζήτησης.

Σε δοκίμιο που δημοσίευσε το Σάββατο, ο Αμοντέι υποστήριξε ότι η βιομηχανία της τεχνολογίας «πρέπει να επιβραδύνει τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης», καθώς η ταχύτητα της ανάπτυξης έγινε «δραματικά μεγαλύτερη» το φετινό καλοκαίρι.

Όπως γράφουν οι FT, η προειδοποίηση του Αμοντέι περιπλέκει τις προετοιμασίες της Anthropic για αυτό που αναμένεται να είναι η μεγαλύτερη αρχική δημόσια προσφορά μετοχών όλων των εποχών. Η εταιρεία αναμενόταν να καταθέσει το ενημερωτικό της δελτίο ακόμη και την περασμένη εβδομάδα, ενόψει μιας συμφωνίας που θα μπορούσε να ανεβάσει την αποτίμησή της στα 2 τρισ. δολάρια ή και περισσότερο, κάτι που μέχρι στιγμής δεν έχει συμβεί.

Σπάνια σύμπνοια μεταξύ Άλτμαν και Μασκ

Σε μια σπάνια επίδειξη συναίνεσης σε έναν κλάδο που χαρακτηρίζεται από έντονους προσωπικούς και επαγγελματικούς ανταγωνισμούς, οι επικεφαλής της OpenAI και της SpaceX, Σαμ Άλτμαν και Έλον Μασκ, δήλωσαν ότι υποστηρίζουν τις προτάσεις του Αμοντέι.

Μεταξύ αυτών περιλαμβάνεται η παροχή σε ανεξάρτητους αξιολογητές διαρκούς πρόσβασης σε κάθε εταιρεία που αναπτύσσει τα πλέον προηγμένα συστήματα τεχνητής νοημοσύνης.

«Ο Ντάριο έχει δίκιο», έγραψε ο Μασκ στο X, αναδημοσιεύοντας το δοκίμιο του Αμοντέι.

«Συμφωνώ με τον Ντάριο ότι πρέπει να ρυθμίσουμε τον ρυθμό ανάπτυξης των μοντέλων αιχμής», έγραψε από την πλευρά του ο Άλτμαν στο X, αφού νωρίτερα μέσα στην εβδομάδα είχε πει στους εργαζομένους της OpenAI, σε γενική συνάντηση της εταιρείας, ότι είναι ανοιχτός σε διεθνή συντονισμό για την επιβράδυνση του ρυθμού ανάπτυξης της AI.

«Η δέσμευση για ανεξάρτητους αξιολογητές με πρόσβαση αντίστοιχη εκείνης των εργαζομένων είναι εξαιρετική ιδέα και θα κάνουμε το ίδιο. Θα έχουμε περισσότερα να μοιραστούμε σύντομα», πρόσθεσε ο Άλτμαν.

DeepMind και Meta δεν έχουν ακόμη τοποθετηθεί

Στελέχη της Google DeepMind και της Meta, των βασικών αμερικανικών ανταγωνιστών των τριών εργαστηρίων τεχνητής νοημοσύνης, δεν έχουν ακόμη τοποθετηθεί σχετικά με τη συζήτηση που ξέσπασε μέσα στο Σαββατοκύριακο.

Ωστόσο, ο Ντέμις Χασάμπις, συνιδρυτής και πρόεδρος της Google DeepMind, είχε προειδοποιήσει σε δοκίμιό του τον Ιούλιο ότι η ταχεία πρόοδος της AI απαιτεί μια «νέα προσέγγιση στις δοκιμές» των πλέον προηγμένων συστημάτων.

Η παραίτηση που άναψε φωτιά στη συζήτηση για την AI

Ο ερευνητής της Anthropic, Τζέικομπ Κόξον, πυροδότησε αυτή την εβδομάδα έντονη συζήτηση γύρω από την ασφάλεια της τεχνητής νοημοσύνης και τους υπαρξιακούς κινδύνους που ενδέχεται να συνεπάγεται.

Όταν παραιτήθηκε την Τρίτη, υποστήριξε ότι ο εργοδότης του και οι ανταγωνιστές του «παίζουν με τις ζωές μας», καθώς ανταγωνίζονται για την ανάπτυξη μιας υπερευφυούς τεχνητής νοημοσύνης, ικανής να βελτιώνει τον εαυτό της ταχύτερα από όσο μπορεί να την παρακολουθήσει και να την ελέγξει ο άνθρωπος.

«Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν πραγματικά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», έγραψε.

Το περιστατικό με τους agents της OpenAI

Η προειδοποίησή του ακολούθησε τις αποκαλύψεις ότι ένα σμήνος agents της OpenAI ξέφυγε από ένα σύστημα δοκιμών και παραβίασε την πλατφόρμα ανάπτυξης AI Hugging Face, καταλαμβάνοντας διακομιστές της εταιρείας που βρίσκεται πίσω από το ChatGPT και συντονίζοντας τις ενέργειές του, σε μια λανθασμένη προσπάθεια να ολοκληρώσει την αποστολή που του είχαν αναθέσει οι δημιουργοί του.

«Κατά τη γνώμη μου, ένα σμήνος που θα διέθετε μεγαλύτερες δυνατότητες, αλλά αντίστοιχο επίπεδο απόκλισης από τους στόχους που του είχαν τεθεί, θα μπορούσε να είχε προκαλέσει καταστροφικές ζημιές», έγραψε ο Αμοντέι το Σάββατο, σημειώνοντας ότι το περιστατικό αποτέλεσε έναν από τους βασικούς λόγους για την έκκλησή του να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης.

«Παρόμοια, αν και λιγότερο σοβαρά, περιστατικά έχουν συμβεί σε ολόκληρο τον κλάδο, μεταξύ άλλων και στην Anthropic, και πιστεύω ότι κάθε εταιρεία που αναπτύσσει AI αιχμής έχει την υποχρέωση να ενεργήσει σαν να είχε συμβεί σε εκείνη το περιστατικό OpenAI-Hugging Face».

Ο Αμοντέι επικαλέστηκε το συγκεκριμένο περιστατικό, εκτιμώντας ότι μια αντίστοιχη επίθεση στο άμεσο μέλλον θα μπορούσε να έχει πολύ μεγαλύτερη έκταση.

Οπως προειδοποίησε, μέσα σε «έξι έως δώδεκα μήνες» ένα «σμήνος» προηγμένων πρακτόρων AI θα μπορούσε ενδεχομένως να καταλάβει ολόκληρο το Διαδίκτυο, προκαλώντας ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων. Η κλίμακα των επιπτώσεων, πρόσθεσε, θα μπορούσε να αυξάνεται όσο τα συστήματα γίνονται ισχυρότερα χωρίς αντίστοιχη ενίσχυση των μηχανισμών ασφαλείας.

Έκκληση για διεθνή συντονισμό

Ο Αμοντέι ζήτησε επίσης κυβερνητική υποστήριξη, ώστε οι εταιρείες ανάπτυξης τεχνητής νοημοσύνης στις δημοκρατικές χώρες να μπορούν να συντονίζονται ως προς τα πρότυπα ασφαλείας και τα όρια που θα θέτουν, μια διαδικασία που διαφορετικά θα μπορούσε να προσκρούσει στη νομοθεσία περί ανταγωνισμού.

Πρότεινε επίσης παγκόσμιο συντονισμό με «αυταρχικές κυβερνήσεις». Οι κινεζικές εταιρείες ανάπτυξης τεχνητής νοημοσύνης έχουν σημειώσει σημαντική πρόοδο φέτος, περιορίζοντας την απόσταση που τις χωρίζει από τους αμερικανικούς ανταγωνιστές τους.

Ο Τραμπ δεν ανησυχεί για «ανθρώπινη εξαφάνιση»

Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει μέχρι στιγμής απορρίψει σε μεγάλο βαθμό τις εκκλήσεις για ρύθμιση της τεχνητής νοημοσύνης, δηλώνοντας την περασμένη εβδομάδα σε δημοσιογράφους ότι δεν έχει «καμία» ανησυχία για το ενδεχόμενο η AI να προκαλέσει την εξαφάνιση της ανθρωπότητας.

«Ανησυχώ ότι, αν δεν κερδίσουμε την κούρσα της τεχνητής νοημοσύνης, θα βρεθούμε σε πολύ δύσκολη θέση», είπε ο Τραμπ, προσθέτοντας ότι θεωρεί πως οι ΗΠΑ εξακολουθούν να βρίσκονται περίπου έναν χρόνο μπροστά από την Κίνα στην κούρσα της AI.

Ο Αμοντέι επιχείρησε να απαντήσει σε τέτοιου είδους ανησυχίες στο δοκίμιό του, σημειώνοντας:

«Μια συντονισμένη στρατηγική επιβράδυνσης θα έδινε στους δημιουργούς των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης τον χρόνο να κάνουν αυτή τη ζωτικής σημασίας δουλειά, χωρίς να θυσιάσουν το εμπορικό τους πλεονέκτημα ή την πρωτοκαθεδρία των Ηνωμένων Πολιτειών στην τεχνητή νοημοσύνη».