Η Anthropic ζητά να “παγώσει” η ανάπτυξη της Τεχνητής Νοημοσύνης, πριν ξεφύγει από τον έλεγχο των ανθρώπων

Η Anthropic, η πιο πολύτιμη νεοσύστατη επιχείρηση τεχνητής νοημοσύνης στον κόσμο, ζήτησε παγκόσμιο “πάγωμα” στην ανάπτυξη της τεχνητής νοημοσύνης και προειδοποίησε ότι οι άνθρωποι κινδυνεύουν να χάσουν τον έλεγχο της τεχνολογίας.

Η εταιρεία πίσω από το chatbot Claude προσφέρθηκε να αναστείλει τις εργασίες σε πιο ισχυρά συστήματα, εφόσον μπορούσε να είναι σίγουρη ότι και άλλοι θα έκαναν το ίδιο.

«Εάν ήταν δυνατόν να επιβραδύνουμε αποτελεσματικά την ανάπτυξη αυτής της τεχνολογίας, ώστε να έχουμε περισσότερο χρόνο να αντιμετωπίσουμε τις τεράστιες επιπτώσεις της, πιστεύουμε ότι αυτό θα ήταν πιθανώς κάτι καλό», έγραψαν στελέχη της εταιρείας.

Συνέκριναν την άνοδο των ισχυρών συστημάτων τεχνητής νοημοσύνης με ένα «πρόβλημα ελέγχου των εξοπλισμών» και προειδοποίησαν ότι υπήρχε περιορισμένος χρόνος για να χαλιναγωγηθεί η τεχνολογία.

Η Anthropic ξεπέρασε πρόσφατα την OpenAI, εταιρεία κατασκευής του ChatGPT, και έγινε η πιο πολύτιμη εταιρεία τεχνητής νοημοσύνης στον κόσμο, με αποτίμηση 965 δισεκατομμυρίων δολαρίων (719 δισεκατομμύρια λίρες). Έχει αποκρύψει την κυκλοφορία του πιο ισχυρού συστήματός της, του Mythos, από το ευρύ κοινό λόγω φόβων ότι θα μπορούσε να χρησιμοποιηθεί για την πραγματοποίηση καταστροφικών κυβερνοεπιθέσεων.

Σε ένα δοκίμιο που δημοσιεύθηκε το βράδυ της Πέμπτης (4/6), η Μαρίνα Φαβάρο και ο Τζακ Κλαρκ, επικεφαλής του ερευνητικού τμήματος της Anthropic και πρόεδρός της, ανέφεραν, σύμφωνα με την Telegraph, ότι η τεχνολογία τεχνητής νοημοσύνης πλησιάζει στο σημείο όπου τα συστήματα θα αναπτύσσονται μόνα τους.

Είπαν ότι αυτή η στιγμή, γνωστή ως «επαναληπτική αυτοβελτίωση», θα μπορούσε να προκαλέσει μια έκρηξη στις δυνατότητες, αλλά θα μπορούσε επίσης να σημαίνει ότι οι άνθρωποι δεν θα είναι σε θέση να ελέγξουν τα συστήματα Τεχνητής Νοημοσύνης.

Η Anthropic έχει τοποθετηθεί ως η εταιρεία τεχνητής νοημοσύνης που είναι περισσότερο αφοσιωμένη στην ηθική της τεχνητής νοημοσύνης και στο να καταστήσει την τεχνολογία αυτή ασφαλή, ενώ παράλληλα κάνει ερευνητικές ανακαλύψεις που, όπως λέει, θα μπορούσαν να οδηγήσουν σε επικίνδυνα συστήματα.

Ο διευθύνων σύμβουλος Ντάριο Αμοντέι δήλωσε ότι υπάρχει 25% πιθανότητα «τα πράγματα να πάνε πολύ, πολύ άσχημα».

Την Πέμπτη, η εταιρεία δήλωσε: «Εάν μια επιβράδυνση απλώς επιτρέψει στους λιγότερο προσεκτικούς παράγοντες να προλάβουν την τεχνολογική πρόοδο, θα μπορούσε να αφήσει τους πάντες λιγότερο ασφαλείς».

«Πιστεύουμε ότι θα ήταν καλό για τον κόσμο να έχει την επιλογή να επιβραδύνει ή να διακόψει προσωρινά την ανάπτυξη της πρωτοποριακής Τεχνητής Νοημοσύνης, ώστε να μπορέσουν οι κοινωνικές δομές και η έρευνα ευθυγράμμισης να συμβαδίσουν.»

Ωστόσο, προειδοποίησε ότι ο συντονισμός ενός παγκόσμιου παγώματος θα ήταν εξαιρετικά δύσκολος, επισημαίνοντας τον έντονο ανταγωνισμό μεταξύ ΗΠΑ και Κίνας για την Τεχνητή Νοημοσύνη.

«Μια ουσιαστική επιβράδυνση ή παύση θα απαιτούσε πολλά καλά εξοπλισμένα εργαστήρια στα σύνορα ή κοντά σε αυτά, σε πολλές χώρες, που θα συμφωνούσαν να σταματήσουν υπό τις ίδιες συνθήκες», ανέφερε.

«Θα απαιτούσε επίσης ο καθένας να μπορεί να επαληθεύσει ότι οι άλλοι έχουν πράγματι σταματήσει… Οι εκπαιδευτικές πτήσεις είναι πολύ πιο εύκολο να αποκρυφθούν από τα σιλό πυραύλων».

Η κα. Φαβάρο και ο κ. Κλαρκ δήλωσαν ότι το προσωπικό της Anthropic παρήγαγε πλέον οκτώ φορές περισσότερο κώδικα από ό,τι μεταξύ 2021 και 2025 και ότι η Τεχνητή Νοημοσύνη βελτιώνεται στην πρόταση νέων ιδεών και στον σχεδιασμό έρευνας, κάτι που, όπως είπαν, αποτελεί ένα βήμα προς την Τεχνητή Νοημοσύνη που χτίζεται από μόνη της.

Άλλοι ειδικοί έχουν ισχυριστεί ότι η εταιρεία υπερβάλλει ως προς τις ικανότητες της Τεχνητής Νοημοσύνης ή κατασκευάζει προειδοποιήσεις σχετικά με την Τεχνητή Νοημοσύνη για να θεσπίσει κανονισμούς που θα μπορούσαν να βλάψουν τους ανταγωνιστές.

Αυτό συνέβη μετά από μια σημαντική πτώση στις μετοχές μικροτσίπ τεχνητής νοημοσύνης, αφότου η εταιρεία ημιαγωγών Broadcom απογοήτευσε τους επενδυτές με τις προβλέψεις πωλήσεων.

Οι μετοχές της εταιρείας υποχώρησαν κατά 13%, εξαφανίζοντας περίπου 300 δισεκατομμύρια δολάρια από την αξία της, με τις μετοχές των άλλων εταιρειών τσιπ Micron, SK Hynix και Arm να καταρρέουν.

Η μαζική πώληση προκάλεσε φόβους για μια φούσκα τεχνητής νοημοσύνης λόγω ερωτημάτων σχετικά με τη ζήτηση για τα τσιπ της Broadcom.