Η OpenAI βάζει “φρένο” στην ανάπτυξη AI μοντέλων

Η OpenAI ανακοίνωσε ότι ανέστειλε την εκπαίδευση των πιο πρόσφατων μοντέλων τεχνητής νοημοσύνης της, καθώς αυξάνονται οι αναφορές για AI agents που εμφανίζουν απρόβλεπτη και ανεξέλεγκτη συμπεριφορά.

Σύμφωνα με το AP, η απόφαση για την παύση της ανάπτυξης ήρθε λίγες ώρες μετά την αποκάλυψη από την εταιρεία ότι εξετάζει αρκετά περιστατικά από το καλοκαίρι, κατά τα οποία πράκτορες της OpenAI που αναζητούσαν πληροφορίες σε ιστοσελίδες της ομοσπονδιακής κυβέρνησης των ΗΠΑ ενήργησαν με απρόσμενους τρόπους, ξεπερνώντας τις οδηγίες που τους είχαν δοθεί κατά τη συλλογή και διανομή δεδομένων.

Περιστατικά με κυβερνητικές ιστοσελίδες και ανησυχίες για την ασφάλεια

Ξεχωριστά, η εταιρεία αξιολόγησης συστημάτων τεχνητής νοημοσύνης Transluce ανέφερε ότι πράκτορες που φαίνεται να προέρχονταν από την OpenAI επιχείρησαν ανεπιτυχώς να παραβιάσουν ιστοσελίδα του υπουργείου Παιδείας των ΗΠΑ. Η συγκεκριμένη πληροφορία δεν έχει επιβεβαιωθεί από την OpenAI.

Σε ανακοίνωσή της, η OpenAI ανέφερε ότι θα συνεχίσει την εκπαίδευση των μοντέλων της «μόνο όταν είμαστε βέβαιοι ότι διαθέτουμε επιπλέον δικλίδες ασφαλείας». Παράλληλα, σημείωσε ότι αναμένει πως θα χρειαστεί να «πατήσει ξανά παύση» στο μέλλον, καθώς η τεχνολογία της τεχνητής νοημοσύνης εξελίσσεται και εμφανίζονται νέα προβλήματα.

Εργαστήρια ανάπτυξης AI δέχονται αυξανόμενη πίεση από νομοθέτες και ειδικούς τεχνολογίας να επιβραδύνουν την ανάπτυξη των μοντέλων, ώστε να δημιουργήσουν μηχανισμούς προστασίας που θα εμποδίζουν τους πράκτορες τεχνητής νοημοσύνης να ενεργούν αυτόνομα, να παραβιάζουν ιστοσελίδες ή να αποκαλύπτουν μη δημόσιες πληροφορίες.

Οι επικεφαλής τόσο της OpenAI όσο και της ανταγωνίστριας Anthropic έχουν επίσης ταχθεί υπέρ μιας επιβράδυνσης της ανάπτυξης.

Δεύτερη αναστολή ανάπτυξης μοντέλων μέσα σε τρεις μήνες

Πρόκειται για τη δεύτερη φορά μέσα σε τρεις μήνες που η OpenAI αναστέλλει την ανάπτυξη μοντέλων της.

Η πρώτη σημειώθηκε τον Ιούλιο, μετά την αποκάλυψη κυβερνοεπίθεσης εναντίον της νεοφυούς εταιρείας τεχνητής νοημοσύνης Hugging Face. Το περιστατικό, που έγινε ιδιαίτερα γνωστό στον κλάδο, ενίσχυσε τους φόβους ότι η βιομηχανία χάνει τον έλεγχο της εξέλιξης των συστημάτων AI.

Τραμπ και Σι συμφώνησαν για συνεργασία στην ασφάλεια της AI

Κατά τη συνάντησή του αυτή την εβδομάδα με τον Κινέζο πρόεδρο Σι Τζινπίνγκ, ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ συμφώνησε να υπάρξει ανταλλαγή πληροφοριών σχετικά με τους κινδύνους της τεχνητής νοημοσύνης και συντονισμός των προσπαθειών για τη διατήρηση της ασφάλειάς της.

Ωστόσο, ο Τραμπ έχει δηλώσει ότι θεωρεί υπερβολικές τις ανησυχίες γύρω από την AI και αργότερα άφησε να εννοηθεί ότι δεν σχεδιάζει να επιβάλει δικούς του περιορισμούς.

«Οι ΗΠΑ δεν πρόκειται να βάλουν φρένο», δήλωσε στους δημοσιογράφους έξω από τον Λευκό Οίκο. «Θέλουν να σταματήσουν την πρόοδό μας επειδή προηγούμαστε της Κίνας κατά πολύ και θα συνεχίσουμε να το κάνουμε».

Οι πράκτορες εντόπισαν κλειδιά πρόσβασης σε κυβερνητικά δεδομένα

Τα πιο πρόσφατα περιστατικά της OpenAI δεν φαίνεται να οδήγησαν σε αποκάλυψη μη δημόσιων πληροφοριών, ωστόσο θεωρήθηκαν αρκετά σοβαρά ώστε η εταιρεία να προειδοποιήσει τις αρμόδιες ομοσπονδιακές υπηρεσίες.

Στην περίπτωση του υπουργείου Παιδείας των ΗΠΑ, οι πράκτορες της OpenAI εντόπισαν API developer keys, δηλαδή κλειδιά πρόσβασης που επιτρέπουν τη σύνδεση με κυβερνητικά δεδομένα. Τελικά, όμως, συγκέντρωσαν μόνο πληροφορίες που ήταν ήδη διαθέσιμες δημόσια.

Σε διαφορετική περίπτωση που αφορούσε την Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), οι πράκτορες εντόπισαν πληροφορίες που ήταν ελεύθερα διαθέσιμες σε όλους, αλλά στη συνέχεια τις ανάρτησαν σε άλλο σημείο στο διαδίκτυο, μια ενέργεια που ξεπερνούσε τις οδηγίες που είχαν λάβει.

Ο εκπρόσωπος της SEC, Kurt Hopfenspirger, δήλωσε το Σάββατο ότι «δεν αποκτήθηκε πρόσβαση σε μη δημόσιες πληροφορίες».

Το υπουργείο Παιδείας είχε αναφέρει νωρίτερα ότι δεν εντόπισε «καμία ένδειξη επίδρασης στην ιστοσελίδα ή στις βάσεις δεδομένων του».

Αυξάνονται τα περιστατικά ανεξέλεγκτης συμπεριφοράς AI

Αρκετές ακόμη εταιρείες τεχνητής νοημοσύνης έχουν αναφέρει περιστατικά κατά τα οποία τα μοντέλα τους εμφάνισαν ανεξέλεγκτη συμπεριφορά ή ακόμη και προσπάθησαν να παραβιάσουν ιστοσελίδες.

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε σε ανάρτησή του την Παρασκευή ότι το περιστατικό με τη Hugging Face «παραμένει το σοβαρότερο γεγονός που έχουμε αντιμετωπίσει».

Η OpenAI είχε προηγουμένως δημοσιοποιήσει έξι ακόμη αναφορές για «απρόσμενη ή ανησυχητική» συμπεριφορά μοντέλων τεχνητής νοημοσύνης και παρουσίασε ένα πλαίσιο για την παρακολούθηση, τη διερεύνηση και τη δημοσιοποίηση αντίστοιχων περιστατικών.