TechFuse – Θεόδωρος Γ. Καρούνος: Η Τεχνητή Νοημοσύνη δεν μπορεί να αντικαταστήσει την πολιτική κρίση

Ευκαιρία για να μειωθεί η “ψηφιακή γραφειοκρατία” στην Ελλάδα είναι η ανάπτυξης των εφαρμογών Τεχνητής Νοημοσύνης, οπως αναφέρει, με αφορμή το 3ο TechFuse, το συνέδριο καινοτομίας που λαμβάνει χώρα στα Ιωάννινα το Θεόδωρος Γ. Καρούνος, Ερευνητής στην Ομάδα INFOSTRAG του Εργαστηρίου Βιομηχανικής και Ενεργειακής Οικονομίας(ΕΒΕΟ) του ΕΜΠ( https://infostrag.gr/ ) και μέλος του Δ.Σ. του Οργανισμού Ανοικτών Τεχνολογιών( ΕΕΛΛΑΚ – https://mathe.ellak.gr/).

“Η ΤΝ μπορεί να μειώσει τη γραφειοκρατία μόνο αν αλλάξει η λογική του κράτους. Δεν χρειαζόμαστε περισσότερες ψηφιακές φόρμες. Χρειαζόμαστε λιγότερη ανάγκη για φόρμες. Η ΤΝ μπορεί να εντοπίζει ελλείψεις, να αντλεί στοιχεία από άλλα μητρώα, να προειδοποιεί για λάθη και να προτεραιοποιεί υποθέσεις” αναφέρει ο κ. Καρούνος, που ήταν ένας από τους πρωτεργάτες της εμβληματικής “Διαύγειας”, και τονίζει ότι

Όπως σημειώνει, “η ΤΝ μπορεί να ενισχύσει την ανάλυση, αλλά δεν μπορεί να αντικαταστήσει την πολιτική κρίση, τη δημόσια διαβούλευση και τη δημοκρατική ευθύνη. Τα δεδομένα δεν είναι ουδέτερα. Κάποιος αποφασίζει τι μετριέται και τι μένει εκτός.

Αν δεν μπουν θεσμικές εγγυήσεις, μπορεί να περάσουμε από την αυθαιρεσία του πελατειακού κράτους στην αυθαιρεσία ενός αδιαφανούς αλγοριθμικού κράτους. Η απάντηση δεν είναι η δαιμονοποίηση της τεχνολογίας, αλλά η υπαγωγή της σε κανόνες δημοκρατίας. Και εδώ χρειάζεται να είμαστε καθαροί: δεν υπάρχουν σήμερα μηχανές με ανεξάρτητη πολιτική κρίση. Υπάρχουν συστήματα που κινδυνεύουν να ντυθούν με υπερβολικό κύρος και να κρύψουν τις ανθρώπινες.

Παράλληλα, αναφέρει ότι τα όποια εμπόδια στην υιοθέτηση λύσεων ΤΝ έχουν να κάνουν με έναν “συνδυασμό διοικητικής κουλτούρας, θεσμικού κατακερματισμού, έλλειψης αξιοκρατίας και αδύναμης αξιολόγησης της διοικητικής ευθύνης”.

Ωστόσο, όπως τονίζει ο κ. Καρούνος, “χωρίς ανοικτά, καθαρά, διαλειτουργικά και επαναχρησιμοποιήσιμα δεδομένα, δεν υπάρχει σοβαρή δημόσια στρατηγική για την ΤΝ. Υπάρχουν μόνο αποσπασματικές εφαρμογές. Τα ανοικτά δεδομένα είναι η βάση για διαφάνεια, λογοδοσία, καινοτομία και δημοκρατική συμμετοχή. Τα ανοιχτά δεδομένα είναι βασικός πυλώνας της ανοιχτότητας και της δημόσιας ψηφιακής υποδομής.

Επιτρέπουν σε πανεπιστήμια, ερευνητές, επιχειρήσεις και κοινωνικούς φορείς να χτίζουν λύσεις και να ελέγχουν αποτελέσματα. Αν τα δεδομένα παραμείνουν κλειδωμένα σε σιλό ή σε συμβάσεις με αναδόχους, δεν θα έχουμε ούτε πραγματική καινοτομία ούτε ψηφιακή ανεξαρτησία.”

Ωστόσο ο κ. Καρούνος αναφέρει ότι “ο ανοικτός κώδικας δεν λύνει μόνος του τα πάντα, αλλά είναι βασική προϋπόθεση ελέγχου, βελτίωσης, ασφάλειας και αποφυγής εγκλωβισμού σε προμηθευτές. Αν ο πυρήνας του κράτους είναι κλειδωμένος αλλού, δεν μιλάμε για ψηφιακό μετασχηματισμό. Μιλάμε για νέα εξάρτηση.”

Η συνέντευξη

Ποιες δημόσιες υπηρεσίες στην Ελλάδα πιστεύετε ότι θα μετασχηματιστούν πρώτες από μοντέλα και πράκτορες Τεχνητής Νοημοσύνης;

Πρώτες θα επηρεαστούν οι υπηρεσίες με μεγάλο όγκο επαναλαμβανόμενων διαδικασιών, πολλά δεδομένα και συχνή επαφή με τον πολίτη: φορολογική διοίκηση, κοινωνικές παροχές, αδειοδοτήσεις, ΚΕΠ, υγεία και τμήματα διοικητικής υποστήριξης στη δικαιοσύνη. Εκεί η ΤΝ μπορεί να βοηθήσει στον έλεγχο πληρότητας, στην προσυμπλήρωση στοιχείων, στην αναζήτηση πληροφορίας και στην ταξινόμηση αιτημάτων.

Χρειάζεται όμως ακρίβεια. Δεν μιλάμε για «αυτόνομους ψηφιακούς υπαλλήλους» που θα αποφασίζουν μόνοι τους. Μιλάμε για εργαλεία που εκτελούν ταχύτερα βήματα μέσα σε κανόνες που έχει θέσει άνθρωπος. Την αγορά, αρκετές εταιρείες και χώρες όπως η Κίνα, συχνά υπερβάλλουν με ανακοινώσεις περί “πρακτόρων(agents)”, ρομπότ που χορεύουν, κλπ, γιατί όλα αυτά ακούγονται πολύ εντυπωσιακά και βοηθούν σε προβολή, χρηματοδότηση και φήμη, συμβάλλοντας όμως στη δημιουργία λανθασμένων εντυπώσεων. Το πραγματικό ερώτημα δεν είναι αν το κράτος θα βάλει “πράκτορες”, αλλά αν θα μειώσει πραγματικά την ψηφιακή γραφειοκρατία.

Πώς θα μπορούσε η ΤΝ να μειώσει τη γραφειοκρατία σε υπηρεσίες όπως αδειοδοτήσεις, φορολογία ή κοινωνικές παροχές;

Η ΤΝ μπορεί να μειώσει τη γραφειοκρατία μόνο αν αλλάξει η λογική του κράτους. Δεν χρειαζόμαστε περισσότερες ψηφιακές φόρμες. Χρειαζόμαστε λιγότερη ανάγκη για φόρμες. Η ΤΝ μπορεί να εντοπίζει ελλείψεις, να αντλεί στοιχεία από άλλα μητρώα, να προειδοποιεί για λάθη και να προτεραιοποιεί υποθέσεις.

Αυτό όμως δεν είναι αυτονομία. Είναι προηγμένη αυτοματοποίηση μέσα σε σαφή όρια. Αν το κράτος κρατήσει τις ίδιες κακές διαδικασίες και απλώς βάλει ένα «έξυπνο» επίπεδο από πάνω, δεν θα έχουμε μεταρρύθμιση. Θα έχουμε την ίδια γραφειοκρατία σε πιο γρήγορη έκδοση. Το ζητούμενο είναι ο πολίτης να πάψει να λειτουργεί ως κλητήρας ανάμεσα σε υπηρεσίες που δεν επικοινωνούν μεταξύ τους.

Ποιος είναι ο ρόλος των ανοικτών δεδομένων στην επιτυχία αυτής της μετάβασης;

Χωρίς ανοικτά, καθαρά, διαλειτουργικά και επαναχρησιμοποιήσιμα δεδομένα, δεν υπάρχει σοβαρή δημόσια στρατηγική για την ΤΝ. Υπάρχουν μόνο αποσπασματικές εφαρμογές. Τα ανοικτά δεδομένα είναι η βάση για διαφάνεια, λογοδοσία, καινοτομία και δημοκρατική συμμετοχή. Τα ανοιχτά δεδομένα είναι βασικός πυλώνας της ανοιχτότητας και της δημόσιας ψηφιακής υποδομής.

Επιτρέπουν σε πανεπιστήμια, ερευνητές, επιχειρήσεις και κοινωνικούς φορείς να χτίζουν λύσεις και να ελέγχουν αποτελέσματα. Αν τα δεδομένα παραμείνουν κλειδωμένα σε σιλό ή σε συμβάσεις με αναδόχους, δεν θα έχουμε ούτε πραγματική καινοτομία ούτε ψηφιακή ανεξαρτησία.

Πώς διασφαλίζουμε ότι τα συστήματα ΤΝ που χρησιμοποιεί το κράτος είναι ελέγξιμα και διαφανή;

Με κανόνες πριν από την εγκατάσταση και όχι μετά. Κάθε σύστημα ΤΝ στο Δημόσιο πρέπει να συνοδεύεται από σαφή τεκμηρίωση: ποιος το ανέπτυξε, για ποιο σκοπό, με ποια δεδομένα, με ποια όρια λειτουργεί και ποιος ευθύνεται για το αποτελέσματα που παράγει.

Ο πολίτης πρέπει να γνωρίζει αν μια απόφαση που τον αφορά έχει παραχθεί ή επηρεαστεί από αλγοριθμικό σύστημα και να έχει δικαίωμα ένστασης και ανθρώπινης επανεξέτασης. Το κρίσιμο εδώ είναι να μη βαφτίζεται «αυτόνομη κρίση» αυτό που στην πράξη είναι αδιαφανής αυτοματοποίηση. Η αποτελεσματικότητα χωρίς εξηγησιμότητα και χωρίς δικαιώματα για τον πολίτη δεν είναι πρόοδος. Είναι ένας νέος τύπος αδιαφάνειας.

Θα έπρεπε οι αλγόριθμοι της δημόσιας διοίκησης να είναι ανοικτού κώδικα;

Ναι, ιδίως όταν επηρεάζουν δικαιώματα, παροχές, διοικητικές πράξεις ή την κατανομή πόρων. Το κράτος δεν μπορεί να ζητά εμπιστοσύνη, ενώ λειτουργεί με κλειστά συστήματα που δεν επιθεωρούνται. H ανοιχτότητα, η διαφάνεια, η επαναχρησιμοποίηση ανοιχτού κώδικα είναι προϋποθέσεις για την ψηφιακή ανεξαρτησία.

Ο ανοικτός κώδικας δεν λύνει μόνος του τα πάντα, αλλά είναι βασική προϋπόθεση ελέγχου, βελτίωσης, ασφάλειας και αποφυγής εγκλωβισμού σε προμηθευτές. Αν ο πυρήνας του κράτους είναι κλειδωμένος αλλού, δεν μιλάμε για ψηφιακό μετασχηματισμό. Μιλάμε για νέα εξάρτηση.

Ποιοι είναι οι μεγαλύτεροι κίνδυνοι για ιδιωτικότητα και κυβερνοασφάλεια σε ένα “AI-enabled” κράτος;

Ο μεγαλύτερος κίνδυνος είναι να δημιουργηθεί ένα κράτος που συσσωρεύει όλο και περισσότερα δεδομένα χωρίς αντίστοιχη ενίσχυση της ασφάλειας, της θεσμικής προστασίας και του δημοκρατικού ελέγχου. Η ΤΝ αυξάνει την αξία των δεδομένων, αλλά αυξάνει και την επιφάνεια κινδύνου: διαρροές, λανθασμένες συσχετίσεις, μη εξουσιοδοτημένη πρόσβαση, προφίλ πολιτών, εξάρτηση από εξωτερικούς παρόχους.

Γι’ αυτό η σωστή πολιτική δεν είναι να υποσχόμαστε «έξυπνο κράτος», αλλά δημοκρατικό ψηφιακό κράτος με προστασία δεδομένων και ασφάλεια εξ ορισμού. Όσο πιο πολύ διαφημίζεται η εικόνα «αυτόνομων πρακτόρων», τόσο περισσότερο πρέπει να θυμόμαστε ότι σήμερα την ευθύνη εξακολουθούν να την έχουν άνθρωποι, δημόσιοι φορείς και ανάδοχοι.

Υπάρχει κίνδυνος οι αποφάσεις να γίνουν “τεχνοκρατικές”, απομακρυσμένες από τη δημοκρατική λογοδοσία;

Ναι, και είναι σοβαρός. Η ΤΝ μπορεί να ενισχύσει την ανάλυση, αλλά δεν μπορεί να αντικαταστήσει την πολιτική κρίση, τη δημόσια διαβούλευση και τη δημοκρατική ευθύνη. Τα δεδομένα δεν είναι ουδέτερα. Κάποιος αποφασίζει τι μετριέται και τι μένει εκτός.

Αν δεν μπουν θεσμικές εγγυήσεις, μπορεί να περάσουμε από την αυθαιρεσία του πελατειακού κράτους στην αυθαιρεσία ενός αδιαφανούς αλγοριθμικού κράτους. Η απάντηση δεν είναι η δαιμονοποίηση της τεχνολογίας, αλλά η υπαγωγή της σε κανόνες δημοκρατίας. Και εδώ χρειάζεται να είμαστε καθαροί: δεν υπάρχουν σήμερα μηχανές με ανεξάρτητη πολιτική κρίση. Υπάρχουν συστήματα που κινδυνεύουν να ντυθούν με υπερβολικό κύρος και να κρύψουν τις ανθρώπινες επιλογές πίσω από την επίφαση της ουδετερότητας.

Ποιο είναι το μεγαλύτερο εμπόδιο για την υιοθέτηση ΤΝ στη δημόσια διοίκηση: τεχνολογία, κουλτούρα ή θεσμικό πλαίσιο;

Το μεγαλύτερο εμπόδιο δεν είναι η τεχνολογία. Είναι ο συνδυασμός διοικητικής κουλτούρας, θεσμικού κατακερματισμού, έλλειψης αξιοκρατίας και αδύναμης αξιολόγησης της διοικητικής ευθύνης. Η τεχνολογία υπάρχει. Αυτό που κυρίως λείπει είναι αξιοκρατία, αλλά και κοινή αρχιτεκτονική δεδομένων, διαλειτουργικότητα, σταθεροί κανόνες και επαρκή στελέχη.

Πολλά έργα αποτυγχάνουν όχι επειδή λείπει το λογισμικό, αλλά επειδή το κράτος παραμένει οργανωμένο σε σιλό και προμηθεύεται λύσεις αντί να χτίζει υποδομές. Η ρητορική των “πρακτόρων” συχνά λειτουργεί ως βολική υπεκφυγή: μεταθέτει την ευθύνη σε ένα μελλοντικό τεχνολογικό θαύμα αντί να αντιμετωπίσει τα υπαρκτά διοικητικά προβλήματα.

Πώς πρέπει να αλλάξει το ελληνικό εκπαιδευτικό σύστημα ώστε οι πολίτες να συνεργάζονται με ΤΝ αντί να ανταγωνίζονται;

Χρειαζόμαστε βαθιά αλλαγή και όχι επιφανειακή προσθήκη ή τροποποίηση μερικών μαθημάτων. Η εκπαίδευση πρέπει να καλλιεργεί κριτική σκέψη, ψηφιακό και αλγοριθμικό γραμματισμό, ικανότητα αξιολόγησης εργαλείων ΤΝ και κατανόηση των κοινωνικών και ηθικών συνεπειών της τεχνολογίας.

Δεν αρκεί να εκπαιδεύουμε λίγους ειδικούς. Πρέπει να δώσουμε στους πολλούς τα εργαλεία για να χρησιμοποιούν δημιουργικά και υπεύθυνα την τεχνολογία. Και πρέπει να τους μάθουμε και κάτι ακόμη: να μη συγχέουν το μάρκετινγκ με την πραγματικότητα. Σήμερα η κοινωνία χρειάζεται πολίτες που να καταλαβαίνουν τι είναι πραγματική υπολογιστική βοήθεια και τι είναι υπερβολή γύρω από «αυτόνομους πράκτορες».

Μπορεί η Ελλάδα να δημιουργήσει οικοσύστημα ΤΝ βασισμένο σε ανοικτά δεδομένα και ανοικτό λογισμικό;

Ναι, μπορεί, αλλά όχι αυτόματα. Χρειάζεται πολιτική απόφαση και στρατηγική συνέπεια. Η Ελλάδα διαθέτει πανεπιστημιακό δυναμικό, ερευνητικές ομάδες, μηχανικούς υψηλού επιπέδου και ζωντανή κοινότητα ανοιχτού λογισμικού. Αυτό που λείπει είναι η συνεκτική δημόσια στρατηγική. Χρειάζεται επιμονή ακριβώς σε αυτό: ψηφιακή ανεξαρτησία, δημόσια ψηφιακά αγαθά, ανοιχτά πρότυπα και ανοιχτό λογισμικό ως επιλογή πολιτικής, όχι ως τεχνική λεπτομέρεια.

Χρειαζόμαστε κοινές υποδομές, δημόσια αποθετήρια κώδικα, ανοικτά πρότυπα και σύνδεση έρευνας, παραγωγής και δημόσιας διοίκησης. Αν συνεχίσουμε να αγοράζουμε αποσπασματικές υπηρεσίες από μεγάλους παρόχους, θα μείνουμε καταναλωτές τεχνολογίας.

Αν η Διαύγεια δημιουργούνταν σήμερα από την αρχή με τεχνητή νοημοσύνη, πώς θα ήταν διαφορετική;

Η ΔΙΑΥΓΕΙΑ έχει αναδειχθεί ως εμβληματικό παράδειγμα ανοιχτότητας, ανοιχτών προτύπων, ανοιχτού λογισμικού και ανοικτών δεδομένων. Αν ξεκινούσε σήμερα, δεν θα έπρεπε να είναι απλώς μια αποθήκη αναρτήσεων. Θα έπρεπε να είναι ένα ζωντανό σύστημα δημόσιας λογοδοσίας.

Με εργαλεία ΤΝ θα μπορούσε να ταξινομεί αποφάσεις, να συνδέει δαπάνες, συμβάσεις, φορείς και πρόσωπα, να εντοπίζει μοτίβα, να επισημαίνει εξαιρέσεις και να επιτρέπει αναζήτηση σε φυσική γλώσσα. Όχι με «αυτόνομους πράκτορες» που δήθεν ελέγχουν την εξουσία από μόνοι τους, αλλά με δημόσια σχεδιασμένα εργαλεία που ενισχύουν τον έλεγχο από πολίτες, δημοσιογράφους και θεσμούς.

Θα έπρεπε ό,τι χρηματοδοτείται από δημόσιο χρήμα στον χώρο της Τεχνητής Νοημοσύνης να επιστρέφει στην κοινωνία ως δημόσιος κώδικας, δημόσια δεδομένα και δημόσια υποδομή γνώσης;

Ναι, αυτό πρέπει να γίνει βασική αρχή της ψηφιακής πολιτικής. Όταν ένα έργο ΤΝ χρηματοδοτείται από δημόσιους πόρους, δεν είναι λογικό να καταλήγει κλειδωμένο σε έναν ανάδοχο. Το δημόσιο χρήμα πρέπει να δημιουργεί δημόσια ψηφιακά αγαθά: κώδικα που επαναχρησιμοποιείται, τεκμηρίωση που μένει στο Δημόσιο, δεδομένα με σαφείς κανόνες και υποδομές που βελτιώνονται συλλογικά.

Αυτή η λογική μειώνει κόστος, ενισχύει διαφάνεια και χτίζει κρατική ικανότητα. Είναι και το καλύτερο αντίδοτο στην υπερβολή γύρω από τους “πράκτορες”: αντί να αγοράζουμε υποσχέσεις αυτονομίας, επενδύουμε σε δημόσια ελέγξιμες δυνατότητες.

Πώς μπορεί η Ελλάδα να αξιοποιήσει τις ευρωπαϊκές πρωτοβουλίες για ΤΝ και data governance χωρίς να γίνει απλώς πελάτης ξένων ψηφιακών πλατφορμών;

Μπορεί, αν πάψει να αντιμετωπίζει τις ευρωπαϊκές πρωτοβουλίες μόνο ως πηγή χρηματοδότησης και τις δει ως ευκαιρία οικοδόμησης εθνικής ψηφιακής στρατηγικής. Η σωστή κατεύθυνση είναι επένδυση σε ανοιχτά πρότυπα, δημόσιες υποδομές δεδομένων, αποθετήρια ανοιχτού κώδικα, κοινά μοντέλα διαλειτουργικότητας και συνεργασίες ανάμεσα σε Δημόσιο, πανεπιστήμια και καινοτόμες επιχειρήσεις.

Αν περιοριστούμε σε έτοιμες υπηρεσίες σε κλειστές πλατφόρμες, θα έχουμε απλώς ψηφιακή κατανάλωση με ευρωπαϊκή χρηματοδότηση. Αντίθετα, αν επενδύσουμε σε επαναχρησιμοποιήσιμες λύσεις και δημόσιες υποδομές, μπορούμε να ενισχύσουμε την ψηφιακή ανεξαρτησία της χώρας και να συμβάλουμε σε μια πιο κυρίαρχη ευρωπαϊκή ψηφιακή πολιτική.

Ο Θεόδωρος Γ. Καρούνος είναι ερευνητής στην Ομάδα INFOSTRAG του Εργαστηρίου Βιομηχανικής και Ενεργειακής Οικονομίας(ΕΒΕΟ) του ΕΜΠ( https://infostrag.gr/ ) και μέλος του Δ.Σ. του Οργανισμού Ανοικτών Τεχνολογιών( ΕΕΛΛΑΚ – https://mathe.ellak.gr/ ).