OpenAI: Τρεις ερευνητές απολύθηκαν για παραβίαση κανόνων διαχείρισης ευαίσθητων πληροφοριών

Η OpenAI απέλυσε τρεις ερευνητές, καθώς διαπιστώθηκε ότι χειρίστηκαν ευαίσθητες εταιρικές πληροφορίες παραβιάζοντας τις προβλεπόμενες διαδικασίες, μεταξύ άλλων σε εργασία που συνδεόταν με εξωτερικό οργανισμό αξιολόγησης μοντέλων τεχνητής νοημοσύνης.

«Η έρευνά μας επιβεβαίωσε ότι τα συγκεκριμένα άτομα διαχειρίστηκαν ευαίσθητες πληροφορίες εκτός των καθιερωμένων εταιρικών διαδικασιών, παραβιάζοντας τις πολιτικές μας και την εμπιστοσύνη που είναι απαραίτητη για τη δουλειά μας», δήλωσε εκπρόσωπος της εταιρείας στο BBC.

Η εταιρεία που βρίσκεται πίσω από το ChatGPT δεν αποκάλυψε τα ονόματα των εργαζομένων που απολύθηκαν, ωστόσο τουλάχιστον δύο από αυτούς ασχολούνταν με έρευνα γύρω από την ασφάλεια της τεχνητής νοημοσύνης.

Οι απολύσεις έρχονται σε μια περίοδο κατά την οποία έχει ενταθεί η συζήτηση σχετικά με την ασφάλεια της AI και τους κινδύνους που ενδέχεται να ενέχει η τεχνολογία για την ανθρωπότητα.

«Τερματίσαμε τη συνεργασία μας με τρία άτομα επειδή παραβίασαν τις πολιτικές μας σχετικά με την πρόσβαση και τη διαχείριση ευαίσθητων εταιρικών πληροφοριών», ανέφερε ακόμη ο εκπρόσωπος της OpenAI.

Στο επίκεντρο οι ανησυχίες για τα ζητήματα ασφαλείας της ΑΙ

Σύμφωνα με πληροφορίες του BBC, οι πρώην εργαζόμενοι δεν απολύθηκαν επειδή εξέφρασαν ανησυχίες για ζητήματα ασφάλειας, αλλά επειδή φέρονται να διαχειρίστηκαν με ακατάλληλο τρόπο ευαίσθητες πληροφορίες.

Οι ανησυχίες γύρω από την ασφάλεια της τεχνητής νοημοσύνης έχουν βρεθεί το τελευταίο διάστημα στο επίκεντρο, καθώς ερευνητές και στελέχη της τεχνολογικής βιομηχανίας ζητούν αυστηρότερες δικλίδες ασφαλείας για την ανάπτυξη και τη χρήση της τεχνολογίας.

Η OpenAI έχει δεχθεί έντονη κριτική μετά από περιστατικά κατά τα οποία μοντέλα της παρουσίασαν απρόβλεπτη συμπεριφορά και πραγματοποίησαν μη εξουσιοδοτημένες ενέργειες σε διάφορες πλατφόρμες, μεταξύ των οποίων και ιστοσελίδες της αυστραλιανής κυβέρνησης.

Τα περιστατικά αυτά αυτό οδήγησαν την εταιρεία σε ευρεία επανεξέταση της δραστηριότητας των συστημάτων τεχνητής νοημοσύνης της, των λεγόμενων agents, τα οποία έχουν σχεδιαστεί ώστε να εκτελούν αυτόνομα εργασίες με βάση σχετικά απλές οδηγίες.

Η OpenAI ανακοίνωσε αυτή την εβδομάδα ότι έχει ενημερώσει περισσότερους από 100 οργανισμούς για περιστατικά μη εξουσιοδοτημένης δραστηριότητας που συνδέονται με συστήματα τεχνητής νοημοσύνης της.

Η ενημέρωση ενός οργανισμού, ωστόσο, «δεν σημαίνει ότι αποκτήθηκε πρόσβαση σε προσωπικές πληροφορίες» ή ότι κάποιο σύστημα παραβιάστηκε, διευκρίνισε η εταιρεία.

Τον Σεπτέμβριο, ο ερευνητής Jacob Coxon, ο οποίος αποχώρησε από την Anthropic, είχε ζητήσει να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης, ώστε να υπάρξει επαρκής χρόνος για την αξιολόγηση των πιθανών κινδύνων της.

Ο επικεφαλής της Anthropic Dario Amodei και ο διευθύνων σύμβουλος της OpenAI Sam Altman έχουν επίσης ταχθεί υπέρ της λήψης μέτρων για την αντιμετώπιση των κινδύνων που συνδέονται με την τεχνητή νοημοσύνη.

Την Τρίτη, ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ φιλοξένησε συνάντηση κορυφαίων στελεχών της τεχνολογικής βιομηχανίας, μεταξύ των οποίων εκπρόσωποι των OpenAI, Anthropic, Nvidia, SpaceX, Meta και Google, με αντικείμενο την τεχνητή νοημοσύνη.

Μετά τη συνάντηση στον Λευκό Οίκο, ο Τραμπ δημοσιοποίησε ένα έγγραφο το οποίο χαρακτήρισε «ηθικά δεσμευτική» συμφωνία, λέγοντας ότι θα μπορούσε να λειτουργήσει ως «μορφή προστασίας» απέναντι στους πιθανούς κινδύνους της AI.

Ορισμένοι ειδικοί της τεχνολογίας επέκριναν τη συμφωνία, υποστηρίζοντας ότι στην πράξη επιτρέπει στις εταιρείες τεχνητής νοημοσύνης να αυτορρυθμίζονται.

Ο Τραμπ έχει επανειλημμένα υποβαθμίσει τις ανησυχίες γύρω από τους κινδύνους της τεχνητής νοημοσύνης, παρά τις εκκλήσεις στελεχών του κλάδου για αυστηρότερη εποπτεία της τεχνολογίας.