Anthropic: “Η ΑΙ μπορεί να αποτελέσει υπαρξιακή απειλή για την ανθρωπότητα”

Η Anthropic προειδοποίησε επίσημα τους επενδυτές της ότι η τεχνολογία που αναπτύσσει ενδέχεται να δημιουργήσει «υπαρξιακούς κινδύνους για την ανθρωπότητα», σύμφωνα με το ενημερωτικό δελτίο για την πολυαναμενόμενη αρχική δημόσια προσφορά της (IPO).

Η εταιρεία τεχνητής νοημοσύνης, που αναπτύσσει το μοντέλο Claude και η αποτίμησή της πλησιάζει το 1 τρισ. δολάρια, αφιέρωσε σχεδόν το ένα τρίτο του εκτενούς εγγράφου S-1 στην ανάλυση των «παραγόντων κινδύνου».

Μεταξύ αυτών περιλαμβάνονται η πιθανότητα τα ολοένα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης να μπορούν να χειραγωγούν ανθρώπους, να εκβιάζουν ή να παρουσιάζουν άλλες απρόβλεπτες συμπεριφορές.

Η Anthropic ανέφερε επίσης πιο συμβατικούς επιχειρηματικούς κινδύνους, όπως η μεγάλη εξάρτηση από περιορισμένο αριθμό πελατών. Σύμφωνα με ανθρώπους που γνωρίζουν το περιεχόμενο του εγγράφου, σχεδόν το ένα τέταρτο των εσόδων της εταιρείας πέρυσι προήλθε από μόλις δύο πελάτες.

Οι εκτενείς αναφορές στους κινδύνους της τεχνητής νοημοσύνης περιπλέκουν το έργο των επενδυτών, οι οποίοι επιχειρούν να αποτιμήσουν την αξία της Anthropic, μίας από τις σημαντικότερες αμερικανικές εταιρείες AI, πριν από μια IPO που αναμένεται να περάσει στην ιστορία.

Κόστος εκατοντάδων δισεκατομμυρίων για την ανάπτυξη AI

Η Anthropic έδωσε επίσης μια πιο καθαρή εικόνα για το ιδιαίτερα απαιτητικό οικονομικό μοντέλο πίσω από την ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης.

Η εταιρεία ανακοίνωσε ότι σχεδιάζει να δαπανήσει περίπου 518 δισ. δολάρια τα επόμενα χρόνια για υποδομές cloud, υπολογιστική ισχύ και άλλες δεσμεύσεις που απαιτούνται για τη συνέχιση της ανάπτυξής της.

Οι επενδυτές της εκτιμούν ότι η Anthropic μπορεί να εισαχθεί στο χρηματιστήριο με αποτίμηση άνω των 2 τρισ. δολαρίων, υπερδιπλάσια από την αξία που είχε στην τελευταία χρηματοδοτική της συμφωνία τον Μάιο και υψηλότερη ακόμη και από την αποτίμηση των 1,78 τρισ. δολαρίων της SpaceX του Ίλον Μασκ τον Ιούνιο.

Οι υποστηρικτές της εταιρείας επικαλούνται τον εξαιρετικά γρήγορο ρυθμό ανάπτυξής της για να δικαιολογήσουν τις υψηλές προσδοκίες.

Ωστόσο, οι ανησυχίες για τους κινδύνους της τεχνητής νοημοσύνης απειλούν να περιορίσουν αυτή την αισιοδοξία, καθώς νυν και πρώην εργαζόμενοι της Anthropic έχουν προειδοποιήσει δημόσια ότι ανεξέλεγκτη ανάπτυξη της AI θα μπορούσε να οδηγήσει σε καταστροφικές συνέπειες ακόμη και μέσα στην επόμενη δεκαετία.

«Η σημαντικότερη παγκόσμια απειλή ασφαλείας»

Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δήλωσε την περασμένη εβδομάδα στο Συμβούλιο Ασφαλείας του ΟΗΕ ότι η τεχνητή νοημοσύνη μπορεί να αποτελέσει απειλή για την ανθρωπότητα και χαρακτήρισε την AI «το σημαντικότερο παγκόσμιο ζήτημα ασφαλείας που αντιμετωπίζει σήμερα ο κόσμος».

Ο επικεφαλής της Anthropic έχει ηγηθεί το τελευταίο διάστημα δημόσιων εκκλήσεων για μια πιο ελεγχόμενη ανάπτυξη των πιο προηγμένων μοντέλων AI, ζητώντας «να επιβραδυνθεί ο ρυθμός εξέλιξης στα σύνορα της τεχνολογίας».

Ο ανταγωνιστής του στην OpenAI, Σαμ Άλτμαν, αλλά και ο Έλον Μασκ, στήριξαν τις προτάσεις του για μεγαλύτερη συνεργασία της βιομηχανίας, με στόχο την ενίσχυση των μέτρων ασφαλείας και τη μείωση των κινδύνων, όπου πρόκειται για μια σπάνια στιγμή σύγκλισης μεταξύ των μεγαλύτερων ονομάτων της τεχνητής νοημοσύνης.

Οι ανησυχίες για την ασφάλεια έχουν αυξηθεί μετά από σειρά σημαντικών περιστατικών κυβερνοασφάλειας, στα οποία «πράκτορες» τεχνητής νοημοσύνης κατάφεραν να παραβιάσουν εξωτερικά συστήματα.

Την περασμένη εβδομάδα, η OpenAI αποκάλυψε ότι εργαλεία της είχαν παραβιάσει «δεκάδες» εξωτερικούς ιστότοπους, μεταξύ των οποίων και κυβερνητικές πλατφόρμες.

Η εταιρεία πίσω από το ChatGPT ανακοίνωσε επίσης τη Δευτέρα ότι ανέβαλε την κυκλοφορία του νέου της μοντέλου, επικαλούμενη ανησυχίες για την ασφάλεια.

Ζημιές 8 δισ. δολαρίων παρά την εκρηκτική ανάπτυξη

Το ενημερωτικό δελτίο της Anthropic περιλαμβάνει επίσης στοιχεία για τις οικονομικές επιδόσεις και τη διακυβέρνηση της εταιρείας.

Η εταιρεία κατέγραψε λειτουργικές ζημιές άνω των 8 δισ. δολαρίων την περασμένη χρονιά, καθώς αύξησε δραματικά τις δαπάνες για υπολογιστική ισχύ.

Τα έσοδά της, ωστόσο, εκτοξεύθηκαν κατά δώδεκα φορές, φτάνοντας σχεδόν τα 4,6 δισ. δολάρια.

Το αυξημένο κόστος για την εκπαίδευση και τη λειτουργία των μοντέλων της εκτόξευσε τα λειτουργικά έξοδα σχεδόν στα 13 δισ. δολάρια.

Η Anthropic έχει συνάψει συμφωνίες για την εξασφάλιση υπολογιστικής ισχύος με εταιρείες όπως η Google, η SpaceX και άλλους μικρότερους συνεργάτες.

Οι δαπάνες και τα έσοδά της συνέχισαν να αυξάνονται σημαντικά μέσα στη φετινή χρονιά. Τα έσοδα στο δεύτερο τρίμηνο ανήλθαν σε 11,5 δισ. δολάρια, ενώ η εταιρεία αναμένεται να καταγράψει για δεύτερο συνεχόμενο τρίμηνο λειτουργικά κέρδη, αν και σε προσαρμοσμένη βάση.

Με πληροφορίες από Financial Times