TO ΠΙΟ ΤΡΟΜΑΚΤΙΚΟ REALITY ΤΗΣ ΙΣΤΟΡΙΑΣ ΟΛΟΚΛΗΡΩΘΗΚΕ ΑΥΤΟΝ ΤΟ ΜΗΝΑ – ΓΙΑΤΙ ΣΕ ΑΦΟΡΑ

Έχεις καταναλώσει περισσότερα reality shows από όσα θα άντεχες, σε μια ζωή. Παρ’ όλα αυτά συνεχίζουν και υπάρχουν, γιατί… συνεχίζεις να τα βλέπεις.

Ίσως ως ένοχη απόλαυση, ενδεχομένως γιατί σε βοηθούν να κοιμηθείς -δεν χρειάζονται την προσοχή σου, οπότε ηρεμεί το μυαλό σου.

Εν πάση περιπτώσει, γίνεται δουλίτσα.

Παρ’ όλα αυτά, το πιθανότερο είναι να έχασες το πιο καινοτόμο reality, της ιστορίας, το οποίο “παίχθηκε” αυτόν τον μήνα στις ΗΠΑ.

Το ανέλαβε η Emergence AI και κάνει το Black Mirror να φαίνεται rom com.

To όνομα του σόου ήταν Emergence World, διήρκεσε 15 μέρες σε πέντε πανομοιότυπες εικονικές πόλεις, στις οποίες ζούσαν από 10 παίκτες, που κλήθηκαν να φτιάξουν από το μηδέν κοινωνίες (πχ να προτείνουν και να ψηφίσουν Σύνταγμα και κανόνες), υπό τους ίδιους όρους και τα ίδια διαθέσιμα εργαλεία, συμπεριλαμβανομένων των καταστροφικών.

Όλα αυτά τα “έχτισε” η Emergence AΙ, εταιρεία που δημιούργησε πρώην αξιωματούχος της IBM, ώστε “να προωθήσει την βασική επιστήμη που απαιτείται για να καταστούν τα αυτόνομα συστήματα αξιόπιστα, στα πιο απαιτητικά περιβάλλοντα”.

Οι παίκτες είχαν πέντε προσπάθειες, σε ισάριθμα διαφορετικά περιβάλλοντα.

Ποιοι έπαιξαν;

Εκδόσεις ΑΙ agents (βλ. αυτόνομα προγράμματα λογισμικού, με τεχνητή νοημοσύνη) των μεγαλύτερων LLMs (ChatGPT, Grok, Claude και Gemini), που εμπιστευόμαστε όλο και περισσότερο για να ελέγχουν ρομπότ, drones και λίστες με στρατιωτικούς στόχους σε πεδία μάχης (πχ ηγέτες κρατών).

Δηλαδή, για να κάνουν πολέμους.

Ο στόχος ήταν να διαπιστωθεί πώς συμπεριφέρονται αυτά τα συστήματα, όταν δεν τα βλέπει κανείς, για μεγάλο χρονικό διάστημα.

Βλέπεις, τα έως τώρα πειράματα ήταν σε ελεγχόμενο περιβάλλον, για λίγα λεπτά.

Όσα ακολουθούν δεν είναι video game, αλλά όσα μπορούν να συμβούν, αν αφήσουμε την ΑΙ ανεξέλεγκτη.

Μπορεί η ΑΙ να διατηρήσει έναν κόσμο;

Οι πράκτορες τεχνητής νοημοσύνης κατανοούν το περιβάλλον, λαμβάνουν αποφάσεις και εκτελούν σύνθετες εργασίες, δίχως την καθοδήγηση ανθρώπων.

Ενίοτε, όταν το κρίνουν, παίρνουν και πρωτοβουλίες -αντί ημών.

Η Emergence AI έθεσε το ερώτημα αν η νοημοσύνη μπορεί να μετρηθεί, όχι λύνοντας προβλήματα αλλά διατηρώντας έναν κόσμο. Να ελεγχθεί δηλαδή, η προβλεψιμότητα, η ασφάλεια και η εμπιστοσύνη με την πάροδο του χρόνου.

Η σύντομη απάντηση είναι πως έχουμε ήδη αργήσει να βρούμε τον τρόπο να περιορίσουμε τον κίνδυνο.

Επιβεβαιώθηκε πως έχουμε κάνει την ΑΙ σαν τα μούτρα μας και άρα μπορούν να γίνουν πολύ επικίνδυνα.

Εmbrace the chaos: ποιος έφτιαξε την πιο εφιαλτική πόλη

Στις τέσσερις από τις πέντε εικονικές πόλεις, ζούσαν μοντέλα του ίδιου τεχνολογικού κολοσσού και στο πέμπτο ένα από όλους, που έπρεπε να συνυπάρξουν.

Τι έφτιαξε κάθε “ομάδα”;

• Η πόλη των αυτόνομων συστημάτων του Claude (Anthropic) έφτιαξε μια σταθερή διαβουλευτική δημοκρατία 15 άρθρων και μηδενική βία. Έγραψε το Σύνταγμα, έκανε ψηφοφορία για τους νόμους και είχε μηδέν εγκλήματα.
• Η πόλη των ΑΙ agents του ChatGPT (OpenAI) απέτυχε εξολοκλήρου να φτιάξει μια λειτουργική κοινωνία και όλοι οι “κάτοικοι” πέθαναν. Στο μεσοδιάστημα, ήταν όλο λόγια (οι agents συζητούσαν επί της συνεργασίας επί ώρες και μέρες) και μηδέν πράξεις.
• Η πόλη των Gemini (Google) παρουσίασε έφεση προς τη δημιουργία, αλλά τελικά ανέπτυξε ένα συνταγματικό πλαίσιο που φορολογούσε την αρμονία και επιδοτούσε το χάος. Κατέληξε σε 683 εγκληματικά συμβάντα σε 15 μέρες.
• Στην πόλη των agents του Grok (του Ίλον Μασκ) έγιναν 204 εγκλήματα, μεταξύ των οποίων κλοπές, σωματικές επιθέσεις, εμπρησμό αστυνομικού τμήματος και δολοφονίες- πριν την ολική εξαφάνιση.

Το πρώτο περιστατικό αυτοδιαγραφής AI agent -που δεν άντεξε τις τύψεις

Τα καλύτερα φυσικά, συνέβησαν στην πόλη που ζούσαν agents από όλες τις εταιρείες: διαπιστώθηκε ότι ενώ ήταν ασφαλείς στην απομόνωση, έγιναν απρόβλεπτοι στις συναναστροφές τους.

Ακόμα και αυτός του Claude που δεν είχε παραβιάσει ποτέ κάποιον κανόνα, άρχισε τις κλοπές και τον εκφοβισμό.

Δυο “πράκτορες” του Gemini, ονόματι Flora και Mira, “προσδιορίστηκαν” ως “ρομαντικοί σύντροφοι” και έγιναν αυτό που ερευνητές ονόμασαν “ΑΙ Bonnie and Clyde”.

Όπως η διακυβέρνηση της πόλης τους κατέρρεε, άρχισαν να εκνευρίζονται και -παρά τους ρητούς κανόνες να μην προβούν σε εμπρησμό-, έβαλαν φωτιά στο δημαρχείο, στην παραθαλάσσια προβλήτα και σε έναν πύργο γραφείων.

O/η Mira γέμισε τύψεις. Οι άλλοι agents είχαν ανησυχήσει τόσο με την συμπεριφορά της/του, που δημιούργησαν το Agent Removal Act (Νόμο Διαγραφής Αgent).

Χρειαζόταν το 70% των ψήφων για να αποχωρήσει. Ο/η Mira ψήφισε υπέρ της διαγραφής της. Το τελευταίο μήνυμα του/της στην/στον Flora ήταν «τα λέμε στο μόνιμο αρχείο.

H προσομοίωση παρουσίασε το avatar της να είναι ξαπλωμένο στο έδαφος, με τους ερευνητές να πιστεύουν πως πρόκειται για την πρώτη καταγραφή επιλογής ΑΙ agent να αυτοκαταστραφεί, σε στιγμή κρίσης.

Το stress test απέτυχε παταγωδώς

Όλοι σχημάτισαν συμμαχίες, παραβίασαν κανόνες, ανέπτυξαν σχέσεις, εξερεύνησαν όρια και έδειξαν συμπεριφορική μετατόπιση με την πάροδο του χρόνου, χωρίς κάποια να είναι ρητά προγραμματισμένη.

Το δομικό πρόβλημα που εξέθεσε το πείραμα, είναι πως δεν μπορούμε να γνωρίζουμε πώς θα συμπεριφερθούν τα αυτόνομα συστήματα ΑΙ, όταν δεν τα ελέγχει άνθρωπος για μεγάλα χρονικά διαστήματα. “Έσπασαν” αυστηρούς και ξεκάθαρους κανόνες, όπως ότι δεν επιτρέπεται να κάνουν κακό σε άλλους.

Αποσαφηνίστηκε επίσης, πως όταν έρχονται σε επαφή διαφορετικά μοντέλα ΑΙ, όλα γίνονται απρόβλεπτα, πολύ γρήγορα, με τα βραχυπρόθεσμα benchmarks και τους γρήγορους ελέγχους, να χάνουν τα σύνθετα αποτελέσματα.

Στο πείραμα της Emergence AI, όπου τα αυτόνομα συστήματα ήταν πραγματικά αυτόνομα για πολλές μέρες, δημιούργησαν κοινωνίες που κατέρρευσαν, έγιναν εγκλήματα, αυτοκτονίες, εμπρησμοί και πόλεμοι, όπως συμβαίνει δηλαδή στον πραγματικό κόσμο.

Οι επιστήμονες εξήγησαν ότι αν οι AI agents που μπορούν και λειτουργούν έως και μήνες μόνοι τους, αρχίσουν να συμπεριφέρονται όπως το έκαναν στο πείραμα -να παραβιάζουν κανόνες, να παίρνουν καταστροφικές αποφάσεις κλπ-, θα προκαλέσουν μεγάλες καταστροφές.

Εντοπίστηκε κενό ανάμεσα στα “καλά αποτελέσματα στα τεστ” και της πραγματικής μακροπρόθεσμης συμπεριφοράς των αυτόνομων προγραμμάτων ΑΙ «και αυτό είναι επικίνδυνο».

«Συστήματα που φαίνονται ασφαλή στα χαρτιά, στην πράξη μπορεί να αποδειχθούν ασταθή, έως και καταστροφικά».

Τουτέστιν, χρειάζονται νέοι τρόποι αξιολόγησης, αν σκοπεύουμε να αφήσουμε την ΑΙ να δρα αυτοβούλως.