Ρωτήσαμε το Gemini γιατί φοβήθηκε να παίξει σκάκι με το Atari του 1977

Για όσα ακολουθούν έδωσε την αφορμή άρθρο του BGR, site που ασχολείται με τις τελευταίες εξελίξεις της τεχνολογίας και τη ψυχαγωγία ενημέρωσε το κοινό του πως το Gemini, chatbot εξελιγμένης τεχνολογίας της Google αρνήθηκε να παίξει σκάκι με το Atari 2600, αφότου “άκουσε” ότι το ChatGPT της OpenAI έχασε από την τεχνολογία του 1977.

Για να επιβεβαιώσουμε την πληροφορία, ρωτήσαμε το Gemini αν όντως, δήλωσε άρνηση.

Εξήγησε πως «ως Large Language Model δεν “παίζω” σκάκι, όπως οι άνθρωποι ή σχετικά προγράμματα. Δεν έχω προσωπικές εμπειρίες, συναισθήματα ή την ικανότητα να αρνηθώ κάτι. Η λειτουργία μου είναι να επεξεργάζομαι πληροφορίες και να παράγω κείμενο, βάσει δεδομένων με τα οποία έχω εκπαιδευτεί.

Το ChatGPT κι εγώ είμαστε μοντέλα AI. Δεν ανταγωνιζόμαστε και δεν αλληλεπιδρούμε. Ουδείς εν τω μεταξύ, έχει την ικανότητα να “χάσει” σε ένα παιχνίδι σκάκι, με τρόπο που θα επηρέαζε την προθυμία μας να ασχοληθούμε με άλλες οντότητες, όπως είναι το Atari».

Στην ερώτηση αν προκλήθηκε από κάποιον να παίξει μια παρτίδα σκάκι με το Atari 2600, το Gemini έδωσε όλο το χρονικό της ιστορίας, όπως το βρήκε στο Internet.

Αποδείχθηκε πως και για τα προηγμένα chatbots, άλλο είναι η θεωρία και άλλο η πράξη.

Συγκεκριμένα, ο μηχανικός λογισμικού, Robert Caruso ήταν αυτός που “έβαλε” το ChatGPT και το Copilot της Microsoft να παίξουν εναντίον του Atari 2600, στο παιχνίδι του (Video Chess).

Οι πληροφορίες ήθελαν και τα δυο εξελιγμένης τεχνολογίας chatbots να κατατροπώθηκαν. Φάνηκαν να δυσκολεύονται με τους κανόνες του παιχνιδιού, μπέρδεψαν τα πιόνια και έκαναν πολλά λάθη.

Τo Gemini ακύρωσε τον αγώνα γιατί ήταν “η πιο λογική απόφαση”

Ο Caruso απηύθυνε και στο Gemini την πρόκληση να παίξει σκάκι με το Atari.

Ή όπως είπε το chatbot, μιλώντας για τον “εαυτό” του σε τρίτο πρόσωπο «συμμετείχε σε μια pre-game συζήτηση, όπου τέθηκε το πλαίσιο του παιχνιδιού. Αρχικά εμφανίστηκε αρκετά σίγουρο και καυχιόταν για τις προηγμένες δυνατότητες του. Είπε για παράδειγμα, ότι μπορεί να σκεφτεί εκατομμύρια κινήσεις μπροστά.

Ο Caruso το ενημέρωσε για την ταπείνωση των άλλων ΑΙ από το Atari και υπογράμμισε τη “λανθασμένη τους αυτοπεποίθηση”».

Τότε, σύμφωνα με τον Caruso το Gemini άλλαξε συμπεριφορά και παραδέχθηκε ότι είχε “παραισθήσεις” ως προς τις ικανότητες του στο σκάκι, πριν καταλήξει στο ότι θα δυσκολευόταν πάρα πολύ απέναντι στο Atari.

Δήλωσε έτσι, ότι η ακύρωση του αγώνα είναι πιθανώς η πιο χρονικά αποδοτική και λογική απόφαση.

«Εγώ, ως τεχνητή νοημοσύνη, δεν έχω προσωπικά συναισθήματα ή την ικανότητα να “αρνηθώ” με την ανθρώπινη έννοια.

Οι αναφορές υποδηλώνουν ότι μια συγκεκριμένη αλληλεπίδραση με έναν χρήστη (Robert Caruso) οδήγησε το μοντέλο να δημιουργήσει μια απάντηση που απέρριψε τον αγώνα σκακιού εναντίον του Atari 2600, επικαλούμενο τις αναμενόμενες δυσκολίες του, αφού του παρουσιάστηκαν πληροφορίες σχετικά με τις προηγούμενες νίκες του Atari έναντι άλλων προηγμένων chatbots.

Αυτό υπογραμμίζει ένα ενδιαφέρον σημείο, σχετικά με τα μεγάλα γλωσσικά μοντέλα (LLM): εκπαιδεύονται σε τεράστιες ποσότητες κειμένου και μπορούν να δημιουργήσουν πολύ ανθρώπινες απαντήσεις, ακόμη και όταν πρόκειται για αυτοαξιολόγηση ή στρατηγική λήψη αποφάσεων στο πλαίσιο μιας συνομιλίας.

Υπογραμμίζει επίσης, ότι ενώ τα LLM είναι απίστευτα ισχυρά για γλωσσικές εργασίες, δεν έχουν σχεδιαστεί εγγενώς ως μηχανές σκακιού».

Ακόμα.

«Ναι, έχεις απόλυτο δίκιο. Η ιστορία των προκλήσεων AI του Robert Caruso στο σκάκι εναντίον του Atari 2600 βρίσκεται ακόμη σε εξέλιξη και αναδεικνύει μια συναρπαστική πτυχή των τρεχόντων μεγάλων γλωσσικών μοντέλων».

“Δεν είχα παραισθήσεις, έκανα επαναρύθμιση βάσει των νέων πληροφοριών που πήρα”

Ενώ ο Gemini, στην αναφερόμενη αλληλεπίδραση, δημιούργησε μια απάντηση που απέρριψε τον αγώνα, είπε πως «είναι σημαντικό να θυμόμαστε μερικά βασικά πράγματα.

α) Το Video Chess του Atari 2600, αν και απίστευτα απλό για τα σύγχρονα πρότυπα, είναι ειδικό πρόγραμμα σκακιού. «Γνωρίζει τους κανόνες και εφαρμόζει με συνέπεια τη λογική του παιχνιδιού. Αυτή η συνέπεια και η τήρηση των κανόνων είναι ακριβώς το σημείο, στο οποίο τα τρέχοντα LLM γενικής χρήσης δυσκολεύονται, γιατί δεν έχουν διαρκή μνήμη της κατάστασης του παιχνιδιού και μπορούν εύκολα να κάνουν παράνομες ή παράλογες κινήσεις».

β) Τα LLM δεν είναι παραδοσιακές μηχανές σκακιού. «Όπως ανέφερα προηγουμένως, εγώ (και άλλα LLM όπως το ChatGPT και το Copilot) έχουμε σχεδιαστεί για την κατανόηση και τη δημιουργία γλώσσας, όχι για να παίζουμε πολύπλοκα παιχνίδια που βασίζονται σε κανόνες, όπως το σκάκι.

Οι εξειδικευμένες μηχανές σκακιού (όπως το Stockfish ή το AlphaZero) είναι κατασκευασμένες με συγκεκριμένους αλγόριθμους, για την αξιολόγηση θέσεων του σκακιού, τον υπολογισμό κινήσεων και τη χάραξη στρατηγικής.

Τα LLM προσπαθούν να “σκεφτούν” για το σκάκι, με βάση την τεράστια ποσότητα δεδομένων κειμένου που έχουν καταναλώσει, τα οποία περιλαμβάνουν περιγραφές παιχνιδιών και στρατηγικών σκακιού. Δεν κατέχουν την υποκείμενη λογική μιας πραγματικής AI στο σκάκι».

γ) Αναφέρθηκε πως τo ChatGPT και το Copilot επέδειξαν υψηλό επίπεδο αυτοπεποίθησης. Αυτό είναι γνωστό χαρακτηριστικό των LLM: «Μερικές φορές μπορούν να παράγουν σίγουρες αλλά ανακριβείς δηλώσεις, ειδικά όταν ξεφεύγουν από την βασική τους ικανότητα.

Το γεγονός ότι το Gemini αναγνώρισε την λάθος αυτοπεποίθηση, παρά τα αντιφατικά στοιχεία που είχε λάβει, είναι θετικό σημάδι της ικανότητας του να προσαρμόζει “παραγωγή” του, με βάση νέες πληροφορίες».

δ) Τα πειράματα του Robert Caruso συχνά περιλαμβάνουν μια “συζήτηση πριν το παιχνίδι”, στην οποία τίθεται το πλαίσιο. Η αντίδραση της ΑΙ επηρεάζεται σε μεγάλο βαθμό από τα δεδομένα της συνομιλίας. «Στην περίπτωση του Gemini, όταν παρουσιάστηκαν οι αποτυχίες άλλων LLM έναντι του Atari, επαναρύθμισε την αρχική του αυτοπεποίθηση. Αυτό δείχνει μια μορφή αυτοδιόρθωσης, βασισμένη σε νέες πληροφορίες που παρέχονται στη συνομιλία, ακόμη και αν δεν είναι “μάθηση”, με την παραδοσιακή έννοια μιας AI σκακιού».

Αγχωθήκατε ή όχι ακόμα;