OpenAI: Αποσύρεται το GPT-6.1 Astra λόγω ανησυχιών για την ασφάλεια

Η OpenAI δεν θα κυκλοφορήσει το νέο της μοντέλο τεχνητής νοημοσύνης (AI) εξαιτίας ανησυχιών για την ασφάλεια, όπως επιβεβαίωσε η εταιρεία την Τρίτη.

Σύμφωνα με το BBC, το σύστημά της, GPT-6.1 Astra, το οποίο εκτελεί αυτόνομα εργασίες όπως η περιήγηση στο διαδίκτυο και η χρήση εφαρμογών, «δεν έφτασε ακριβώς το επίπεδο» των προτύπων της εταιρείας, σύμφωνα με τη Saachi Jain, επικεφαλής των συστημάτων ασφαλείας στην OpenAI.

Η δημιουργός του ChatGPT εξέδωσε επίσης μια ενημέρωση σχετικά με περιστατικά που συνέβησαν τον Ιούνιο, αλλά δεν είχαν δημοσιοποιηθεί μέχρι την περασμένη εβδομάδα, κατά τα οποία τα μοντέλα της απέκτησαν πρόσβαση σε ιστοσελίδες και συστήματα της αυστραλιανής κυβέρνησης χωρίς εξουσιοδότηση.

Αυτά τα περιστατικά, σε συνδυασμό με παρόμοιες παραβιάσεις από μοντέλα που αναπτύχθηκαν από μεγάλες εταιρείες τεχνητής νοημοσύνης, έχουν εντείνει τη συζήτηση σχετικά με τους κινδύνους που εγκυμονεί η τεχνολογία.

Κορυφαίοι ηγέτες στον χώρο της τεχνητής νοημοσύνης, συμπεριλαμβανομένου του Sam Altman της OpenAI και του επικεφαλής της Anthropic, Dario Amodei, έχουν παροτρύνει τη βιομηχανία να επιβραδύνει τον ρυθμό ανάπτυξης.

Η απόφαση της OpenAI, την οποία αποκάλυψε πρώτη η Wall Street Journal, αποτελεί μια σπάνια περίπτωση όπου ένας μεγάλος κατασκευαστής τεχνητής νοημοσύνης αποσύρει μια νέα κυκλοφορία λόγω ανησυχιών για την ασφάλεια.

Το μοντέλο υστέρησε όσον αφορά την «τήρηση του πεδίου εφαρμογής και των εξουσιοδοτήσεων, καθώς και τον τρόπο με τον οποίο επικοινωνεί πίσω στον χρήστη το είδος της εργασίας που έχει εκτελέσει», δήλωσε η Jain.

«Θέλουμε να βεβαιωθούμε ότι η ανάπτυξη των μοντέλων μας είναι ασφαλής, είτε πρόκειται για εσωτερική χρήση στην εταιρεία είτε για διάθεσή τους στους χρήστες», πρόσθεσε η ίδια.

Το αυτόνομο μοντέλο (agentic model) GPT-6 Astra κυκλοφόρησε τον Σεπτέμβριο και ειδικεύεται στη σύνθετη αιτιολόγηση και την αυτόνομη εκτέλεση εργασιών. Η OpenAI ανέφερε ότι ήταν το αποτέλεσμα «ετών έρευνας και μεγάλων στοιχημάτων».

Η OpenAI πρόκειται να πραγματοποιήσει την Τρίτη στο Σαν Φρανσίσκο το ετήσιο συνέδριο προγραμματιστών DevDay, όπου αναμένεται να προβεί σε αρκετές ανακοινώσεις. Παραμένει ασαφές εάν μια νέα έκδοση του Astra θα περιλαμβάνεται σε αυτές.

Οι έλεγχοι ασφαλείας της εταιρείας έχουν τεθεί υπό αυστηρό έλεγχο μετά από αρκετά περιστατικά υψηλού προφίλ που εμπλέκουν την τεχνολογία της.

Κυβερνοεπιθέσεις στην Αυστραλία

Την περασμένη εβδομάδα, ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανέζι ανακοίνωσε ότι ένας «ανεξέλεγκτος» πράκτορας (rogue agent) της OpenAI είχε χακάρει κυβερνητικές ιστοσελίδες και συστήματα τον Ιούνιο, σε αυτό που οι ειδικοί χαρακτήρισαν ως την πρώτη γνωστή περίπτωση του είδους της παγκοσμίως.

Ο Αλμπανέζι άσκησε κριτική στην OpenAI επειδή ειδοποίησε την κυβέρνηση της Αυστραλίας μέσω μιας γενικής διεύθυνσης ηλεκτρονικού ταχυδρομείου αντί να επικοινωνήσει απευθείας με αξιωματούχους.

Η OpenAI ανέφερε σε δήλωσή της την Τρίτη ότι λυπάται για το περιστατικό και ότι «θα έπρεπε να είχαμε διαχειριστεί την αντίδρασή μας καλύτερα».

Οι υπηρεσίες Services Australia, το Γραφείο Στατιστικών Εγκλήματος και Έρευνας της Νέας Νότιας Ουαλίας (NSW), το Υπουργείο Υγείας της Βικτώριας και το Αυστραλιανό Ινστιτούτο Υγείας και Ευημερίας επηρεάστηκαν όλα, διευκρινισε η OpenAI.

Η εταιρεία ανέφερε ότι ξεκίνησε έρευνες μόλις υπέπεσαν στην αντίληψή της τα προβλήματα στα μέσα Αυγούστου και ειδοποίησε τους επηρεαζόμενους οργανισμούς μεταξύ 10 και 24 Σεπτεμβρίου.

«Στόχος μας ήταν να δώσουμε στις επηρεαζόμενες υπηρεσίες μια λεπτομερή αναφορά μόλις ολοκληρωνόταν η έρευνά μας», ανέφερε η OpenAI, προσθέτοντας ότι θα έπρεπε να είχε κοινοποιήσει τα αρχικά ευρήματα πιο άμεσα και να κρατά ενημερωμένες τις αυστραλιανές αρχές.

Η OpenAI πρόσθεσε ότι θα αναπτύξει «πρακτικές προσεγγίσεις» σχετικά με το πώς οι προγραμματιστές και οι κυβερνήσεις θα εντοπίζουν και θα γνωστοποιούν μελλοντικά περιστατικά τεχνητής νοημοσύνης.

Η εταιρεία θα χρηματοδοτήσει μέτρα κυβερνοασφάλειας, θα προσφέρει εξειδικευμένη υποστήριξη στις πληγείσες υπηρεσίες και θα συγκροτήσει μια ειδική ομάδα (taskforce) για τη διαχείριση των κινδύνων από τους όλο και πιο προηγμένους πράκτορες AI.

Ανέφεραν επίσης ότι ένα ανώτατο στέλεχος της OpenAI θα βρεθεί στην Αυστραλία για να παραστεί σε ακρόαση της Κοινής Ειδικής Επιτροπής για την Τεχνητή Νοημοσύνη στις 6 Οκτωβρίου.

Τον Ιούλιο, η OpenAI δήλωσε ότι τα συστήματα τεχνητής νοημοσύνης της είχαν αποκτήσει πρόσβαση στο διαδίκτυο και παραβίασαν την πλατφόρμα ανοιχτού κώδικα Hugging Face, ωθώντας ερευνητές και αξιωματούχους να ζητήσουν αυστηρότερους ελέγχους στην τεχνολογία.