Η εποχή που όλοι γράφουμε το ίδιο

Πριν από λίγες μέρες, σε μια ιστορική τοπική εφημερίδα της Κρήτης, δημοσιεύτηκαν ως συνήθως άρθρα για την τοπική επικαιρότητα. Τα κείμενα ήταν καλογραμμένα, με σωστή δομή και ισορροπημένες παραγράφους. Ωστόσo, στο τέλος τους υπήρχε κάτι που δεν θα έπρεπε να βρίσκεται σε δημοσιογραφικό κείμενο. Ανάμεσα στις τελευταίες γραμμές είχαν παραμείνει φράσεις που ανήκαν προφανώς σε συνομιλία με ένα γλωσσικό μοντέλο τεχνητής νοημοσύνης:

«Αν θέλεις μπορούμε να ετοιμάσουμε και ξεχωριστό κουτί με τα βασικά σημεία της επιστολής του συλλόγου, ώστε να αναδειχθούν συγκεντρωμένα οι αιτιάσεις.»

«Αν θέλεις πάμε να δούμε ποιο από τα τρία τραβάμε στο πρωτοσέλιδο και πως το «δένουμε» με φωτογραφία και σπασίματα».

Το κείμενο είχε δημοσιευθεί ουσιαστικά αυτούσιο από ένα σύστημα τεχνητής νοημοσύνης, χωρίς να προηγηθεί ουσιαστική επιμέλεια. Στην πραγματικότητα αποτελεί ένα ιδιαίτερα αποκαλυπτικό στιγμιότυπο μιας βαθύτερης μεταβολής που βρίσκεται ήδη σε εξέλιξη: της μεταβολής του τρόπου με τον οποίο παράγεται και διακινείται ο δημόσιος λόγος.

Ανάλογες ενδείξεις εμφανίζονται πλέον καθημερινά και στο περιβάλλον των κοινωνικών δικτύων. Όλο και πιο συχνά συναντά κανείς, αναρτήσεις που είναι εμφανώς προϊόντα γλωσσικών μοντέλων. Κείμενα με άψογη γραμματική, συμμετρική δομή και ισορροπημένες παραγράφους, τα οποία όμως αποπνέουν μια ιδιότυπη ομοιομορφία. Συχνά ξεκινούν με έναν δραματικό πρόλογο, συνεχίζουν με μια σειρά προσεκτικά δομημένων επιχειρημάτων και καταλήγουν σε ένα καθαρό συμπέρασμα.

Δεν πρόκειται απαραίτητα για λανθασμένα κείμενα. Είναι όμως κείμενα που φαίνεται να έχουν παραχθεί από μια κοινή γλωσσική μήτρα. Και αυτό δεν είναι τυχαίο. Τα μεγάλα γλωσσικά μοντέλα έχουν εκπαιδευτεί πάνω σε τεράστια σώματα κειμένων και λειτουργούν προβλέποντας ποια λέξη είναι πιθανότερο να ακολουθήσει την προηγούμενη σε μια δεδομένη ακολουθία. Το αποτέλεσμα είναι λόγος που μοιάζει οικείος και πειστικός, αλλά ταυτόχρονα παρουσιάζει μια ιδιαίτερη τυποποίηση.

Η διάδοση αυτής της μορφής λόγου δημιουργεί ένα νέο επικοινωνιακό τοπίο. Η παραγωγή κειμένων, εικόνων και οπτικοακουστικού υλικού έχει γίνει δραματικά ευκολότερη και ταχύτερη. Αυτό που παλαιότερα απαιτούσε χρόνο, εμπειρία και επεξεργασία μπορεί πλέον να παραχθεί σε λίγα δευτερόλεπτα.

Η εξέλιξη αυτή δεν είναι κατ’ ανάγκη αρνητική. Σε πολλές περιπτώσεις η τεχνητή νοημοσύνη λειτουργεί ως ισχυρό εργαλείο υποστήριξης της ανθρώπινης δημιουργικότητας. Μπορεί να επιταχύνει την έρευνα, να βοηθήσει στη δομή ενός κειμένου, να προσφέρει εναλλακτικές οπτικές σε ένα ζήτημα. Η ιστορία των μέσων ενημέρωσης άλλωστε είναι γεμάτη από τεχνολογίες που διεύρυναν την πρόσβαση στην παραγωγή περιεχομένου.

Η ιδιαιτερότητα της τεχνητής νοημοσύνης όμως βρίσκεται στο γεγονός ότι δεν επιταχύνει απλώς τη διαδικασία γραφής. Παράγει το ίδιο το κείμενο.

Αυτό μετατοπίζει διακριτικά αλλά ουσιαστικά τη σχέση μεταξύ ανθρώπου και λόγου. Ο χρήστης δεν είναι πλέον απαραίτητα ο συγγραφέας μιας ιδέας αλλά συχνά ο επιμελητής ενός ήδη παραγόμενου κειμένου. Σε αυτή τη διαδικασία η ανθρώπινη σκέψη μετακινείται από το στάδιο της δημιουργίας στο στάδιο της επιλογής.

Εδώ εμφανίζεται και το ζήτημα της εμπιστοσύνης.

Η ψυχολογία της τεχνολογίας έχει περιγράψει ένα φαινόμενο γνωστό ως automation bias, την τάση δηλαδή των ανθρώπων να εμπιστεύονται υπερβολικά τις αποφάσεις ενός αυτοματοποιημένου συστήματος. Όταν μια απάντηση παρουσιάζεται με σαφήνεια, λογική δομή και γλωσσική αρτιότητα, ενεργοποιείται ένα ισχυρό γνωστικό αντανακλαστικό αποδοχής.

Στην περίπτωση των γλωσσικών μοντέλων αυτό το φαινόμενο ενισχύεται ακόμη περισσότερο, επειδή το αποτέλεσμα δεν μοιάζει με τεχνική έξοδο ενός υπολογιστή αλλά με ανθρώπινο λόγο.

Έρευνα της Microsoft, έχει δείξει ότι η χρήση γενετικής τεχνητής νοημοσύνης συχνά συνοδεύεται από μείωση της αυτοαναφερόμενης γνωστικής προσπάθειας κατά την εκτέλεση εργασιών. Οι συμμετέχοντες δήλωναν ότι ολοκλήρωναν ταχύτερα τις εργασίες τους, αλλά παράλληλα μειωνόταν η ένταση του ελέγχου που ασκούσαν στην ορθότητα των παραγόμενων απαντήσεων.

Το ζήτημα επομένως δεν είναι απλώς τεχνικό. Είναι βαθιά γνωστικό και πολιτισμικό.

Η ευκολία με την οποία παράγεται πλέον ο λόγος, δημιουργεί έναν τεράστιο όγκο περιεχομένου που κυκλοφορεί στο διαδίκτυο. Ορισμένοι ερευνητές έχουν ήδη χρησιμοποιήσει τον όρο «workslop» για να περιγράψουν αυτή τη μαζική παραγωγή περιεχομένου: κείμενα που είναι γλωσσικά άρτια αλλά συχνά στερούνται πρωτοτυπίας, εμπειρίας ή πραγματικής ανάλυσης.

Σε αυτό το περιβάλλον, η πρόκληση παύει να είναι η παραγωγή λόγου, αλλά η αξιολόγηση του και η εξέλιξη αυτή θέτει ένα θεμελιώδες ερώτημα για τη λειτουργία της δημόσιας σφαίρας: Ποιον εμπιστευόμαστε;

Η δημοκρατική δημόσια συζήτηση προϋποθέτει κάτι απλό αλλά θεμελιώδες: ότι πίσω από κάθε δημόσια διατύπωση υπάρχει ένας άνθρωπος που αναλαμβάνει την ευθύνη της. Όταν ένας δημοσιογράφος, ένας ερευνητής ή ένας πολίτης υπογράφει ένα κείμενο, δεν δηλώνει απλώς την ιδιοκτησία των λέξεων του. Δηλώνει ότι στέκεται πίσω από αυτές και είναι πρόθυμος να κριθεί γι’ αυτές. Η υπογραφή είναι ο μηχανισμός λογοδοσίας που επιτρέπει στον δημόσιο λόγο να λειτουργεί ως πεδίο αντιπαράθεσης πραγματικών ανθρώπων και όχι ανώνυμων φωνών.

Η διάδοση των γλωσσικών μοντέλων μεταβάλλει αυτή τη σχέση. Όταν το μεγαλύτερο μέρος του λόγου παράγεται από πλατφόρμες, η έννοια της φωνής γίνεται πιο ασαφής. Το κείμενο εξακολουθεί να εμφανίζεται ως προσωπική έκφραση, αλλά στην πραγματικότητα έχει παραχθεί από ένα σύστημα που ανήκει σε μια τεχνολογική υποδομή.

Με άλλα λόγια, η φωνή του δημόσιου λόγου κινδυνεύει να μετατραπεί σε φωνή μιας πλατφόρμας.

Το ζήτημα αυτό δεν αφορά μόνο τη δημοσιογραφία ή την επικοινωνία. Αφορά τον τρόπο με τον οποίο συγκροτείται η συλλογική γνώση σε μια κοινωνία. Αν μεγάλο μέρος των ιδεών, των επιχειρημάτων και των αφηγήσεων παράγεται από συστήματα τεχνητής νοημοσύνης, τότε η δημόσια συζήτηση αποκτά ένα νέο επίπεδο διαμεσολάβησης.

Η κατάσταση γίνεται ακόμη πιο σύνθετη αν λάβουμε υπόψη τη ραγδαία εξέλιξη των ίδιων των συστημάτων. Τα σημερινά γλωσσικά μοντέλα, όσο εντυπωσιακά κι αν είναι, παραμένουν σχετικά αναγνωρίσιμα. Το ύφος τους έχει συγκεκριμένα χαρακτηριστικά που μπορούν ακόμη να εντοπιστούν.

Η επόμενη γενιά συστημάτων όμως αναμένεται να είναι πολύ πιο εξελιγμένη. Θα μπορούν να μιμούνται συγκεκριμένους συγγραφείς, να προσαρμόζουν το ύφος τους σε διαφορετικά κοινά και να παράγουν πολυτροπικό περιεχόμενο που θα συνδυάζει κείμενο, εικόνα και βίντεο.

Αν σήμερα είναι ήδη δύσκολο να διακρίνουμε πότε ένα κείμενο έχει παραχθεί από άνθρωπο και πότε από μηχανή, σε λίγα χρόνια η διάκριση αυτή μπορεί να γίνει πρακτικά αδύνατη.

Η εξέλιξη αυτή δεν σημαίνει απαραίτητα ότι η τεχνητή νοημοσύνη θα αντικαταστήσει τη σκέψη, αλλά ότι μπορεί να την υποκαταστήσει σιωπηλά όταν χρησιμοποιείται χωρίς κριτική απόσταση.

Ίσως εδώ να βρίσκεται και η πιο εύγλωττη αναλογία. Στις προηγούμενες δεκαετίες, η γραφή με στυλό ή μολύβι άρχισε σταδιακά να εγκαταλείπεται καθώς τα πληκτρολόγια και οι ψηφιακές συσκευές έγιναν κυρίαρχες. Η δεξιότητα δεν εξαφανίστηκε από τη μια μέρα στην άλλη, απλώς άρχισε να χρησιμοποιείται ολοένα λιγότερο.

Κάτι παρόμοιο μπορεί να συμβεί και με τη σκέψη.

Αν τα συστήματα τεχνητής νοημοσύνης αρχίσουν να παράγουν τις πρώτες εκδοχές των επιχειρημάτων μας, τις βασικές δομές των κειμένων μας και τα σημεία μιας ανάλυσης, τότε η ανθρώπινη σκέψη κινδυνεύει να περιοριστεί σταδιακά στον ρόλο της επιμέλειας.

Η τεχνητή νοημοσύνη μπορεί να παράγει λόγο με εντυπωσιακή ταχύτητα και φυσικά μπορεί να λειτουργήσει υποστηρικτικά. Αυτό που δεν μπορεί να αντικαταστήσει είναι η ανθρώπινη κρίση που δίνει νόημα σε αυτόν τον λόγο.

Και ίσως το πιο κρίσιμο ερώτημα της εποχής μας να μην είναι, αν οι μηχανές μπορούν να γράφουν καλά, αλλά δεχόμαστε όλα όσα γράφουν.