Γιατί η ΑΙ δεν μας δίνει πάντα σωστές απαντήσεις;

Η τεχνητή νοημοσύνη είναι ό,τι τεχνολογικά πιο εξελιγμένο έχει δημιουργήσει ποτέ ο άνθρωπος. Παρ’ όλα αυτά, παθαίνει delulu πολύ συχνά και απαντάει άλλα από αυτά που την ρωτάμε.

Κάπως έτσι θυμόμαστε πως δεν υπάρχει τελειότητα, τουλάχιστον όχι ακόμα.

Πού οφείλονται όμως, τα glitch που παθαίνει η ΑΙ;

Ένας παράγοντας είναι αυτός που εξαφανίζει τη λογοδοσία για κακές της αποφάσεις. Πρόκειται για ένα τεχνικό ζήτημα που ούτως ή άλλως δεν μπορεί να υποστηρίξει η ΑΙ. Λέγεται “ερμηνευσιμότητα”.

Το γιατί κάθε ενέργειας που κάνει.

Άγνωστο το “γιατί” κάθε απόφασης της ΑΙ

Όπως λέει στο NEWS 24/7 o Βασίλης Τσαουσίδης, καθηγητής στο Τμήμα Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστή στο Δημοκρίτειο Πανεπιστήμιο Θράκης και συγγραφέας του βιβλίου “Τεχνητή Νοημοσύνη: Ναι και όχι”, «δεν είναι εξηγήσιμο από τον άνθρωπο πάντα ή μάλλον συχνότερα το γιατί ένα πρόγραμμα ΑΙ επιλέγει να κάνει μία ενέργεια.

Μπορεί αυτή να είναι η βέλτιστη ενέργεια που κάνει, αλλά εμείς δεν ξέρουμε το λόγο.

Έχει πολύ μεγάλη σημασία να μπορούμε να αντιληφθούμε τη διαδικασία της απόφασης της ΑΙ.

Να μην πάμε, δηλαδή κατευθείαν στην υιοθέτησή της, αν δεν μπορούμε να την εξηγήσουμε, διότι τότε δεν μπορούμε να αναλάβουμε και την ευθύνη».

Αναφερόμαστε σε βαθιά νευρωνικά δίκτυα (με δισεκατομμύρια παραμέτρους) και στατιστικές πιθανότητες που στερούνται ερμηνευσιμότητας ή αν προτιμάς, λογικής.

Γνωρίζουμε δηλαδή, τι δεδομένα να βάζουμε και το αποτέλεσμα που θα πάρουμε, αλλά όχι την ενδιάμεση “σκέψη” -τους στατιστικούς υπολογισμούς.

Άρα τι μπορεί να περιορίσει ο άνθρωπος και πώς;

«Η ασφάλεια απαιτεί τελειοποιημένα συστήματα. Και σε αυτή τη φάση δεν είμαστε σε αυτό το στάδιο. Άρα, ως ένα βαθμό η κινδυνολογία -πως έως το τέλος της δεκαετίας θα μας έχει εξαφανίσει- δεν είναι ακριβώς κινδυνολογία».

Το πείραμα με τη βάρκα και τα εμπόδια

Ο ειδικός ανέφερε και ένα πείραμα που έκανε η OpenAI (CoastRunners), ζητώντας από AI Agents (που δρουν αυτόνομα) να περάσουν δέκα εμπόδια και να φτάσουν στη σημαία που είχε “στηθεί” στο τέρμα.

«Ο στόχος δηλαδή, ήταν να φτάσει η βαρκούλα στη σημαία, χωρίς να χτυπήσει τα εμπόδια. Έπειτα από το πέρασμα κάθε εμποδίου, δίχως να ακουμπήσει, θα κέρδιζε έναν πόντο. Θα νικούσε όποιος συγκέντρωνε τους περισσότερους πόντους.

Το λογισμικό έδωσε τον στόχο, όχι όμως προϋποθέσεις και όρους».

Θα φανταζόσασταν πως οι βαρκούλες (AI Agents) θα έκαναν ζιγκ ζαγκ στα εμπόδια έως ότου φτάσουν στο τέρμα.

Αυτό που έγινε ήταν το εξής: «Μόλις η βαρκούλα βρήκε τον πρώτο εμπόδιο άρχισε να κάνει γύρους γύρω από αυτό και να μαζεύει έναν πόντο, κάθε φορά, με σιγουριά».

Δηλαδή, μάζευε πόντους εύκολα.

«Αυτό είναι ένα γνωστό πρόβλημα: λέγεται το πρόβλημα της ευθυγράμμισης. Δηλαδή, αυτό που εμείς θεωρούμε αυτονόητο δεν είναι αυτονόητο για τον πράκτορα. Δεν το μεταφέρουμε με τους ίδιους όρους που το σκεφτόμαστε και στο λογισμικό μας, με συνέπεια να μην γνωρίζει ακριβώς, να μην έχει την ίδια αντίληψη με εμάς.

Είναι θέμα ο στόχος, αλλά είναι και θέμα να προσδιοριστούν οι προϋποθέσεις και οι κανόνες για να πετύχει το στόχο. Εκεί υστερούμε σε αυτή τη φάση και αυτό δεν είναι καθόλου εύκολο να συμβεί».

Κοινώς, προς το παρόν δεν συνεννοούμαστε απόλυτα με την ΑΙ, αφού δεν έχουμε την ίδια λογική -εντός και εκτός εισαγωγικών.

Τι άλλο επηρεάζει τις απαντήσεις της ΑΙ

Tα Μεγάλα Γλωσσικά Μοντέλα (LLM) που χειριζόμαστε πια οι περισσότεροι καθημερινά, απαντούν σε ερωτήσεις που θέτουμε. Δηλαδή, προβλέπουν πιθανές απαντήσεις, τις οποίες αντλούν από τεράστιες ποσότητες κειμένου και παράγουν την απάντηση που φαίνεται πιο πιθανή και συνεκτική.

Αυτό δεν συμπίπτει πάντα με την αλήθεια.

Για αυτό και πολλές φορές, η απάντηση φαίνεται μεν, πειστική, αλλά αν κάνουμε έναν κόπο να την τσεκάρουμε, βλέπουμε πως είναι λάθος.

Επίσης, όταν το μοντέλο δεν έχει αρκετή πληροφορία, συμπληρώνει τα κενά με κάτι που “θεωρεί” ως εύλογο και έτσι έχουμε το φαινόμενο που έχει ονομαστεί “hallucinations”.

Από την στιγμή που δεν είναι μηχανή αναζήτηση γνώσης, αλλά μοντέλο πρόβλεψης της επόμενης πιθανής λέξης, δίνει ανύπαρκτες πηγές, λάθος ημερομηνίες, επινοημένα στοιχεία.

Δεν είναι κάτι που κάνει για να μας εξαπατήσει. Το κάνει για να δώσει απάντηση που δεν “ξέρει” μεν, αλλά του “φαίνεται” σωστή. Έτσι, δημιουργεί “πειστικά ψέματα”.

Μην ξεχνάς επίσης, πως τα δεδομένα εκπαίδευσης έχουν όρια, οπότε μπορεί να λείπουν πρόσφατα γεγονότα ή αλλαγές. Αυτό το κενό μπορεί να το καλύψει μια αναζήτηση στο διαδίκτυο.

Εκεί που “τα χάνει” το μηχάνημα, είναι ότι θέτουμε μια ασαφή ερώτηση, η οποία επιδέχεται πολλών ερμηνειών. Αυτό που κάνει είναι να διαλέξει μια, η οποία συνήθως δεν είναι αυτή που θέλουμε.

Πώς θα αποφύγεις τα λάθη της ΑΙ

Για να προφυλαχθείς, μπορείς να ζητάς πάντα πηγές και φυσικά, να τις ελέγχεις, όπως και να διασταυρώνεις σημαντικές πληροφορίες.

Όλα αρχίζουν βέβαια, με το να θέτεις σαφές πλαίσιο στην ερώτηση, ώστε να μη “χαώνεται” η ΑΙ και να μη ξεχνάς πως προς το παρόν είναι εργαλείο. Όχι η λύση για όλα μας τα προβλήματα.