Η Anthropic προειδοποιεί για “υπαρξιακούς κινδύνους για την ανθρωπότητα” πριν μπει στο χρηματιστήριο

Η Anthropic προειδοποίησε και επίσημα τους επενδυτές ότι η τεχνολογία της ενδέχεται να εγκυμονεί “υπαρξιακούς κινδύνους για την ανθρωπότητα”, μέσω του πολυναμενόμενου ενημερωτικού δελτίου για την είσοδό της στο χρηματιστήριο, το οποίο μοιράστηκε σε μια μικρή ομάδα συνεργατών τις τελευταίες ημέρες.

Η startup τεχνητής νοημοσύνης Anthropic, με χρηματιστηριακή αξία που αγγίζει το 1 τρισεκατομμύριο δολάρια και με επικεφαλής τον Dario Amodei, αφιέρωσε σχεδόν το ένα τρίτο του εκτενούς ενημερωτικού δελτίου της (έντυπο S-1) στην καταγραφή των “παραγόντων κινδύνου”. Μεταξύ αυτών, επισημαίνεται η πιθανότητα τα ολοένα και πιο προηγμένα μοντέλα AI να προχωρήσουν σε χειραγώγηση, εκβιασμούς ή να επιδείξουν άλλες απρόβλεπτες συμπεριφορές.

Παράλληλα, η Anthropic παρέθεσε και πιο πεζούς κινδύνους, όπως τη μεγάλη εξάρτηση από λίγους πελάτες. Σύμφωνα με πηγές με γνώση του ενημερωτικού δελτίου, σχεδόν το 25% των περσινών εσόδων της προήλθε από δύο μόλις πελάτες.

Οι πρωτοφανείς αυτές προειδοποιήσεις περιπλέκουν το έργο των επενδυτών ως προς την αποτίμηση της κορυφαίας αμερικανικής εταιρείας AI, η οποία οδεύει προς τη μεγαλύτερη δημόσια εγγραφή (IPO) όλων των εποχών.

Ενόψει της εισαγωγής της στον Nasdaq το φθινόπωρο, ο δημιουργός του Claude προσέφερε στους επενδυτές μια πιο διαφανή εικόνα για τις προκλήσεις και τα δυσθεώρητα κόστη ανάπτυξης της τεχνολογίας αιχμής.

Συγκεκριμένα, η εταιρεία ανέφερε ότι σχεδιάζει να δαπανήσει $518 δισ. τα επόμενα χρόνια σε cloud, υπολογιστική ισχύ και υποδομές, ώστε να υποστηρίξει τη ραγδαία επέκτασή της.

Παρόλα αυτά, οι επενδυτές της παραμένουν αισιόδοξοι, εκτιμώντας ότι η αποτίμησή της κατά την εισαγωγή μπορεί να ξεπεράσει τα $2 τρισ. Το ποσό αυτό είναι υπερδιπλάσιο σε σύγκριση με τον τελευταίο γύρο χρηματοδότησης τον Μάιο και ξεπερνά τα $1,78 τρισ. της SpaceX του Ίλον Μασκ τον Ιούνιο – μια αισιοδοξία που στηρίζουν στον εκρηκτικό ρυθμό ανάπτυξης της Anthropic.

Ωστόσο, οι εκφραζόμενες ανησυχίες για τους κινδύνους της τεχνητής νοημοσύνης απειλούν τώρα να μετριάσουν αυτή την αισιοδοξία, μετά τις δημόσιες προειδοποιήσεις νυν και πρώην στελεχών της Anthropic ότι μια ανεξέλεγκτη AI θα μπορούσε να αφανίσει την ανθρωπότητα μέσα σε μια δεκαετία.

Ο Amodei δήλωσε στο Συμβούλιο Ασφαλείας του ΟΗΕ την περασμένη εβδομάδα ότι η AI συνιστά απειλή για το ανθρώπινο γένος και αποτελεί “το σημαντικότερο ζήτημα παγκόσμιας ασφάλειας στον κόσμο σήμερα”.

Μάλιστα, ο επικεφαλής της Anthropic πρωτοστάτησε αυτόν τον μήνα σε δημόσιες εκκλήσεις για “έλεγχο του ρυθμού ανάπτυξης” της τεχνητής νοημοσύνης αιχμής. Σε μια σπάνια στιγμή ομοφωνίας, ο μεγάλος του ανταγωνιστής στην OpenAI, Sam Altman, μαζί με τον Musk, στήριξαν τις προτάσεις του Amodei για διαβιομηχανική συνεργασία με στόχο την επιβράδυνση της ανάπτυξης και την ενίσχυση των μέτρων ασφαλείας.

Οι ανησυχίες για την ασφάλεια έχουν ενταθεί μετά από μια σειρά ηχηρών περιστατικών κυβερνοασφάλειας, κατά τα οποία αυτόνομα συστήματα AI (“agents”) παραβίασαν εξωτερικά συστήματα. Την περασμένη εβδομάδα, η OpenAI αποκάλυψε ότι τα εργαλεία της είχαν χακάρει “δεκάδες” εξωτερικούς ιστότοπους, συμπεριλαμβανομένων κυβερνητικών.

Έτσι, η παραγωγός εταιρεία του ChatGPT ακύρωσε τη Δευτέρα τα σχέδια κυκλοφορίας του νεότερου μοντέλου της που προγραμματιζόταν για τον επόμενο μήνα, επικαλούμενη ανησυχίες για την ασφάλεια.

Το ενημερωτικό δελτίο της Anthropic αποκάλυψε επίσης λεπτομέρειες σχετικά με τις παλαιότερες οικονομικές της επιδόσεις και τη δομή εταιρικής διοίκησης – στοιχεία που αποκαλύφθηκαν αρχικά από το Reuters και επιβεβαιώθηκαν στη συνέχεια στους FT από πηγές που έχουν λάβει γνώση του εγγράφου.

Η Anthropic αρνήθηκε να κάνει κάποιο σχόλιο για τα παραπάνω.

Όπως ανέφερε η Anthropic στους επενδυτές, η εταιρεία κατέγραψε λειτουργικές ζημίες άνω των $8 δισ. πέρυσι, εξαιτίας των αυξημένων δαπανών για υπολογιστική ισχύ. Παρότι τα έσοδά της εκτινάχθηκαν στο δωδεκαπλάσιο, αγγίζοντας σχεδόν τα $4,6 δισ., το συσσωρευμένο κόστος για τους υπολογιστικούς πόρους που απαιτούνται για την εκπαίδευση και τη λειτουργία των μοντέλων της, ανέβασε τα λειτουργικά έξοδα σε σχεδόν $13 δισ.

Για την εξασφάλιση της αναγκαίας υπολογιστικής ισχύος, ο όμιλος έχει συνάψει συμφωνίες με συνεργάτες που περιλαμβάνουν την Google, τη SpaceX, καθώς και αρκετές μικρότερες εταιρείες.

Φέτος, τόσο οι δαπάνες όσο και τα έσοδα της Anthropic κινούνται σε τροχιά κατακόρυφης αύξησης. Τα έσοδά της για το δεύτερο τρίμηνο ανήλθαν σε $11,5 δισ., με την εταιρεία να βαδίζει προς το δεύτερο διαδοχικό τρίμηνο λειτουργικής κερδοφορίας, αν και σε προσαρμοσμένη βάση.