Η Anthropic λέει ότι μπλόκαρε πιθανές προσπάθειες ανάπτυξης βιολογικών όπλων με AI

Η Anthropic ανακοίνωσε ότι έχει μπλοκάρει πολλαπλούς λογαριασμούς που χρησιμοποίησαν τα μοντέλα τεχνητής νοημοσύνης της με τρόπους που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων.

Σε έκθεση που δημοσίευσε την Πέμπτη (10/9), η εταιρεία τεχνητής νοημοσύνης, γνωστή για το μοντέλο Claude, ανέφερε ότι θεωρεί τη βιολογική κακόβουλη χρήση μία από τις «σοβαρότερες απειλές» που συνδέονται με τα μοντέλα τεχνητής νοημοσύνης.

Η νέα έκθεση, σύμφωνα με το CNN, παρουσιάζει πέντε πραγματικές περιπτώσεις στις οποίες χρήστες «παρέκαμψαν τους ελέγχους» που εμποδίζουν την πρόσβαση ατόμων από συγκεκριμένες περιοχές και «κατέβαλαν προσπάθειες να αποκρύψουν τον πραγματικό σκοπό της έρευνάς τους, ώστε να αποφύγουν τις δικλίδες ασφαλείας».

Τα παραδείγματα περιλαμβάνουν πιθανή έρευνα ενίσχυσης λειτουργικότητας (gain-of-function) και αφορούν τόσο μολυσματικές ασθένειες, όπως η γρίπη των πτηνών, όσο και νέες μορφές δηλητηρίων και τοξινών.

Εξετάζοντας δραστηριότητα διάρκειας 30 ημερών, η Anthropic ανέφερε ότι εντόπισε περίπου 35 «διακριτές ερευνητικές προσπάθειες» με δυνητικά ανησυχητική δραστηριότητα. Ωστόσο, αναγνώρισε ότι δεν μπορεί να είναι βέβαιη αν οι εμπλεκόμενοι «είχαν πρόθεση να προκαλέσουν βλάβη» ή αν διεξήγαγαν έρευνα για νόμιμους επιστημονικούς σκοπούς.

Η Anthropic ανέφερε ότι τα άτομα που περιγράφονται στις μελέτες περίπτωσης ήταν «ενεργοί επιστήμονες», χωρίς όμως να προσδιορίσει τα ερευνητικά ιδρύματα ή τις χώρες όπου έλαβαν χώρα οι δραστηριότητες.

«Οι εξελιγμένες επιθέσεις δεν απαιτούν πλέον εξελιγμένους επιτιθέμενους», αναφέρει η νέα έκθεση. «Οι δυνατότητες των μοντέλων τεχνητής νοημοσύνης στον τομέα της κυβερνοασφάλειας έχουν καταργήσει το χάσμα σε ανθρώπινο δυναμικό και εργαλεία που στο παρελθόν διαχώριζε τις καλά χρηματοδοτούμενες, κρατικά υποστηριζόμενες επιχειρήσεις από τους μεμονωμένους χρήστες».

Μία από τις περιπτώσεις που περιγράφονται στην έκθεση αφορούσε ένα αίτημα για βοήθεια στη σύνταξη αίτησης χρηματοδότησης ερευνητικού προγράμματος για έρευνα ενίσχυσης λειτουργικότητας (gain-of-function) σχετικά με τη μεταδοτικότητα και την ικανότητα αποφυγής του ανοσοποιητικού συστήματος από τον ιό chikungunya.

Σε άλλη περίπτωση, ένας ερευνητής εκτός ΗΠΑ χρησιμοποιούσε την Claude για εργασίες σχετικά με τη γρίπη των πτηνών, με επίκεντρο την προσαρμογή των ιών στα θηλαστικά και τον τρόπο με τον οποίο προκαλούν σοβαρές ασθένειες.

Η έκθεση περιγράφει επίσης περιπτώσεις έρευνας πάνω σε ορθοποξοϊούς (orthopoxviruses) — μια ομάδα που περιλαμβάνει τον ιό της ευλογιάς (variola), ο οποίος προκαλεί την ευλογιά, καθώς και την mpox — αλλά και έρευνες σχετικά με τοξίνες δηλητηρίων.

Η ανάπτυξη φαρμάκων θεωρείται μία από τις πιο πολλά υποσχόμενες και αισιόδοξες εφαρμογές της τεχνητής νοημοσύνης. Οι επικεφαλής του κλάδου συχνά αναφέρονται στις δυνατότητές της να συμβάλει στη θεραπεία του καρκίνου και άλλων ασθενειών. Ωστόσο, τα ίδια χαρακτηριστικά που καθιστούν την τεχνητή νοημοσύνη ισχυρό εργαλείο για την ανακάλυψη νέων υλικών και φαρμάκων προς όφελος των ανθρώπων θα μπορούσαν επίσης να την καταστήσουν χρήσιμη για την ανάπτυξη βιολογικών όπλων στα χέρια κακόβουλων παραγόντων.

Η Anthropic ανέφερε ότι επιθυμεί τα μοντέλα της να είναι χρήσιμα για την επιστημονική έρευνα, ωστόσο τα νεότερα μοντέλα έχουν πλέον τη δυνατότητα να εκτελούν πολύ πιο σύνθετες εργασίες σε σχέση με προηγούμενες εκδόσεις — και η πιθανότητα κακόβουλης χρήσης αυξάνεται όσο διευρύνονται τα πιθανά οφέλη.

Πρόσθεσε ακόμη ότι κακόβουλοι παράγοντες θα μπορούσαν να επιχειρήσουν να αξιοποιήσουν τις ωφέλιμες βιολογικές εφαρμογές της τεχνητής νοημοσύνης, ώστε να διατηρήσουν ένα είδος «εύλογης άρνησης» (plausible deniability) σχετικά με έρευνες που ενδέχεται να έχουν επιβλαβείς σκοπούς.

«Καθώς τα μοντέλα μας γίνονται ολοένα και πιο ικανά, προσεγγίζοντας ή ακόμη και ξεπερνώντας τις επιδόσεις ειδικών σε απαιτητικές επιστημονικές εργασίες, αναμένουμε ότι ο αντίκτυπός τους θα αυξάνεται συνεχώς, τόσο σε επωφελή όσο και σε δυνητικά επιβλαβή πλαίσια», αναφέρει η έκθεση της Anthropic.

«Καθώς τα μοντέλα τεχνητής νοημοσύνης χρησιμοποιούνται ευρύτερα, οι πάροχοι θα συνεχίσουν να αποκτούν ορατότητα σε πραγματικές χρήσεις που σχετίζονται με απειλές — ορατότητα την οποία ακόμη και κυβερνήσεις και διακυβερνητικοί οργανισμοί δεν διαθέτουν».

Η εταιρεία ανέφερε ότι τα πιο πρόσφατα μοντέλα της, συμπεριλαμβανομένου του Claude Fable 5, διαθέτουν «ισχυρότερες δικλίδες ασφαλείας που περιορίζουν την πρόσβαση σε ένα ευρύ φάσμα ερωτημάτων σχετικά με τη βιολογική έρευνα διττής χρήσης».

Η Anthropic ανέφερε ότι υπάρχουν ενδείξεις πως οι δικλίδες ασφαλείας που έχει εφαρμόσει λειτουργούν, ωστόσο υπογράμμισε ότι θα χρειαστούν ακόμη πιο ισχυρά συστήματα προστασίας, καθώς τα μοντέλα τεχνητής νοημοσύνης και οι πιθανές απειλές γίνονται ολοένα και πιο εξελιγμένα.

Η εταιρεία σημείωσε επίσης στην έκθεσή της ότι ανέκοψε προσπάθειες χρήσης των μοντέλων της για επιχειρήσεις παρακολούθησης, απάτες και την ανάπτυξη συμβατικών όπλων, όπως drones και πυραύλους.

Η δημοσιοποίηση της έκθεσης έρχεται μετά τις αυξανόμενες προειδοποιήσεις από εργαζόμενους στον χώρο της τεχνητής νοημοσύνης, οι οποίοι πρόσφατα αποχώρησαν από τις εταιρείες τους επικαλούμενοι ανησυχίες για την ασφάλεια.

Ορισμένοι από αυτούς εξέφρασαν φόβους ότι η τεχνολογία εξελίσσεται υπερβολικά γρήγορα και ότι κάποια στιγμή θα ξεπεράσει την ικανότητα των ανθρώπων να την ελέγχουν, ενώ ζήτησαν από τις κυβερνήσεις να εξετάσουν τρόπους επιβράδυνσης της ανάπτυξης σε περίπτωση που η κατάσταση ξεφύγει από τον έλεγχο.

«Αν κάνετε προβολές στο μέλλον, το επίπεδο των δυνατοτήτων αυτών των συστημάτων τεχνητής νοημοσύνης… θα μπορούσε να προκαλέσει ακραίο χάος», δήλωσε ο Τζέικομπ Κόξον, πρώην εργαζόμενος στην Anthropic, στον Άντερσον Κούπερ του CNN την Τετάρτη.

Σε ανάρτηση στο X αυτή την εβδομάδα, όπου ανακοίνωσε την παραίτησή του, ο 27χρονος ερευνητής τεχνητής νοημοσύνης ανέφερε ότι «οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Μιλώντας την Τετάρτη, ο Κόξον δήλωσε ότι η τεχνητή νοημοσύνη θα μπορούσε να παραβιάσει κρίσιμες υποδομές — ή να οδηγήσει στην ανάπτυξη «βιολογικών όπλων επιπέδου αφανισμού».

«Υπάρχουν πολλοί τρόποι με τους οποίους η τεχνητή νοημοσύνη θα μπορούσε να δράσει αυτόνομα στον κόσμο», δήλωσε.

Τον Ιούλιο, σχεδόν 1.400 εργαζόμενοι σε εταιρείες τεχνητής νοημοσύνης υπέγραψαν μια ανοιχτή επιστολή με την οποία καλούσαν την αμερικανική κυβέρνηση να ρυθμίσει την τεχνολογία, προκειμένου να περιορίσει τις μεγάλες εταιρείες τεχνολογίας και να επιβραδύνει την ανάπτυξη της τεχνητής νοημοσύνης, ώστε να διασφαλιστεί η ασφάλειά της.

Την ίδια στιγμή, αυτή την εβδομάδα, ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσόκι, προειδοποίησε ότι οι δυνατότητες της τεχνητής νοημοσύνης εξελίσσονται ταχύτερα από την ικανότητα των ερευνητών να τις παρακολουθούν και να τις ελέγχουν με αξιόπιστο τρόπο.

Προς το παρόν, οι εταιρείες τεχνητής νοημοσύνης σε μεγάλο βαθμό αυτορυθμίζονται. Η κυβέρνηση Τραμπ έχει εργαστεί για να υπονομεύσει τις πολιτειακές ρυθμίσεις σχετικά με την τεχνητή νοημοσύνη, ενώ το Κογκρέσο μέχρι στιγμής δεν έχει δείξει διάθεση να θέσει περιορισμούς στην τεχνολογία.

«Πιστεύουμε ότι ο κόσμος θα επωφελούνταν εάν ο κλάδος υιοθετούσε έναν νόμιμο και επαληθεύσιμο τρόπο συνεργασίας, ώστε να καθοριστεί ο ρυθμός με τον οποίο διαθέτουμε ισχυρά μοντέλα», ανέφερε η Anthropic σε ανακοίνωσή της την Τετάρτη.