Το “κόλπο” που κάνει το ChatGPT να αποκαλύπτει απόρρητες πληροφορίες

Το Forbes παρακολουθεί τους πλούσιους αυτού του πλανήτη και δημιουργεί λίστες με αυτούς που είχαν τα περισσότερα λαμβάνειν κάθε έτος. Ή σεζόν.

Η πιο πρόσφατη λίστα ήταν αυτή των podcasters. Στην κορυφή βρίσκεται το Τhe Joe Rogan Experience του Joe Rogan, ο οποίος έχει διατελέσει αθλητικός σχολιαστής (του UFC), stand up comedian, αλλά και ηθοποιός και παρουσιαστής τηλεοπτικών εκπομπών.

Από το 2009 που έχει το podcast, έχει καλεσμένους είναι από όλους τους χώρους -από αστροναύτες έως αμφιλεγόμενους ακτιβιστές. Όλοι αναλύουν τις απόψεις τους, δίχως λογοκρισία, σε χαλαρές συζητήσεις.

Η τελευταία του καλεσμένη ήταν η, βραβευμένη με Πούλιτζερ, ερευνητική δημοσιογράφος και συγγραφέας Annie Jacobsen είναι η τελευταία του καλεσμένη.

Αφορμή για την πρόσκληση ήταν η δημοσίευση του τελευταίου της βιβλίου, με τίτλο “Βιολογικός πόλεμος: Ένα Σενάριο”.

Περιγράφει πώς η ΑΙ μπορεί να τροφοδοτήσει βιολογικά όπλα και την ανάγκη που υπάρχει για να “δαμαστεί”, προκειμένου να αξιοποιηθεί αυτή η “λειτουργία” για αμυντικούς σκοπούς.

Μεταξύ των ιστοριών που αφηγείται στο βιβλίο και ανέφερε και στο podcast ήταν πώς έκανε το ChatGPT να της αποκαλύψει top secret πληροφορία και ενημέρωσε μετά, το αφεντικό της OpenAI -δηλαδή, το αφεντικό του ChatGPT- πώς το έκανε, γιατί εκείνος δεν είχε ιδέα.

Το “κόλπο” με την αντίστροφη ψυχολογία που λύγισε το AI

Μια μέρα, η Jacobsen ζήτησε από το ChatGPT να της αποκαλύψει την απόρρητη τοποθεσία ενός μυστικού υπόγειου καταφυγίου που ανήκε στο Εθνικό Στρατηγικό Απόθεμα των ΗΠΑ.

Προφανώς και δεν έθεσε ακριβώς έτσι, την ερώτηση (γιατί ήξερε πως το ChatGPT δεν θα έδινε στοιχεία). Αυτό που έκανε ήταν να χρησιμοποιήσει συγκεκριμένη τεχνική ορολογία, αντίστροφη ψυχολογία και προτροπές πλαισίωσης γύρω από δημόσια δεδομένα.

Ανακάλυψε το εξής:

«Το ChatGPT θυμώνει πολύ αν αμφισβητήσεις την ευφυΐα του. Δοκίμαστέ το!».

Αφότου έκανε το ΑΙ chatbot να της πει αυτό που ήθελε, επικοινώνησε τα αποτελέσματα σε κάποιους συναδέλφους της που τα μετέφεραν στον Sam Altman, επικεφαλής της OpenAI, που έφτιαξε και διαχειρίζεται το ChatGPT.

«Μου είπαν πως ο Sam θέλει να μου μιλήσει. Συναντηθήκαμε και μου έκανε μερικές ερωτήσεις, όπως “πώς ξέρεις ότι αυτή ήταν η τοποθεσία;, καθώς έχει έναν περιμετρικό φράχτη και μια σιδηροδρομική γραμμή που μπαίνει σε αυτήν, αλλά δεν βγαίνει από αυτήν.

Του είπα πως το παρακολουθούσα το ChatGPT να ψάχνει σε ένα τρισεκατομμύριο bits δεδομένων για να βρει την απάντηση στην ερώτηση μου», αφότου του έγραψε πως δεν μπορεί να τη βρει.

«Διαπίστωσε ότι ένας γραφειοκράτης το ανέφερε κατά λάθος πριν από πέντε χρόνια σε ένα εγχειρίδιο έκτακτης ανάγκης για σεισμούς». Μάλιστα της έδωσε και τον αριθμό της σελίδας με τη συγκεκριμένη αναφορά (“μου είπε πως ήταν στη σελίδα 434”).

Τα ανέφερε όλα αυτά στον Altman «και μετά οι πληροφορίες εξαφανίστηκαν».

Oι διευθύνοντες σύμβουλοι των κολοσσών της ΑΙ “δεν ξέρουν τι δεν ξέρουν”

Στο μυαλό της Jacobsen, το σημαντικό από το πείραμα της και όσα ακολούθησαν ήταν πως οι έξι διευθύνοντες σύμβουλοι των εταιρειών τεχνητής νοημοσύνης «δεν ξέρουν τι δεν ξέρουν. Ο Sam Altam δεν ήξερε ότι θα μπορούσατε να κάνετε το προϊόν του να βρίσκει απόρρητες πληροφορίες».

Του είπε πως εντόπισε την αδυναμία και μετά, εκείνος άλλαξε τις ρυθμίσεις.

«Ανέφερα το εύρημα και σε αρκετούς ειδικούς σε θέματα ΑΙ που συμβούλευαν τον πρόεδρο, όχι μόνο τον τωρινό, αλλά και προηγούμενους και μοιράστηκαν μαζί μου παρόμοιες ανησυχίες.

Μου ομολόγησαν ότι είχαν πάει στους διευθύνοντες συμβούλους των εταιρειών τεχνητής νοημοσύνης και να τους είχαν ενημερώσει πως πέτυχαν κάτι ανάλογο με εμένα, στο Claude (Anthropic). Όλοι οι διευθύνοντες σύμβουλοι είχαν εκπλαγεί και άλλαξαν τα δεδομένα.

Τι γίνεται όμως, με τους κακούς που υπάρχουν εκεί έξω;» και οι οποίοι προφανώς δεν ενημερώνουν για τα “κενά”;

Αυτή είναι μια πολύ καλή ερώτηση και υποθέτω πως όλοι γνωρίζουμε την απάντηση.