Καταγγελία στην ΕΑΔ: Παράνομη χρήση AI στην αξιολόγηση 54.500 δημοσίων υπαλλήλων

Η Homo Digitalis, το Ινστιτούτο Ρυθμιστικών Πολιτικών (ΙΝΕΡΠ) και μία δημόσια υπάλληλος κατέθεσαν την Παρασκευή 3 Ιουλίου συντονισμένες καταγγελίες στην Εθνική Αρχή Διαφάνειας (ΕΑΔ), ζητώντας να διερευνηθεί αν το Υπουργείο Εσωτερικών συμμορφώθηκε με τις υποχρεώσεις που προβλέπει ο ν. 4961/2022 για τη χρήση συστημάτων τεχνητής νοημοσύνης κατά την αξιολόγηση δημοσίων υπαλλήλων τόσο για το έτος 2023 όσο και για τα επόμενα.

Όπως αναφέρεται στην καταγγελία, κατά τη διαδικασία αξιολόγησης των δημοσίων υπαλλήλων για το έτος 2023, το Υπουργείο Εσωτερικών επεξεργάστηκε, με τη χρήση εργαλείου τεχνητής νοημοσύνης, τα δεδομένα 54.500 υπαλλήλων που είχαν αρχικά κριθεί υψηλής απόδοσης, γεγονός που έγινε γνωστό εκ των υστέρων, μέσα από δημοσιεύματα και δηλώσεις στελεχών του Υπουργείου. Μέσα από την επεξεργασία αυτή, απορρίφθηκε ένας τεράστιος αριθμός αξιολογήσεων και ο αριθμός των υπαλλήλων που τελικά κατατάχθηκαν ως υψηλής απόδοσης μειώθηκε δραματικά, σε λιγότερους από 4.500, ενώ 1.329 κρίθηκαν ως χαμηλής απόδοσης.

Σύμφωνα με τον ν. 4961/2022 το Δημόσιο μπορεί να χρησιμοποιεί συστήματα τεχνητής νοημοσύνης για αποφάσεις που επηρεάζουν τα δικαιώματα πολιτών ή εργαζομένων μόνο όταν αυτό προβλέπεται ρητά από ειδική διάταξη νόμου και συνοδεύεται από συγκεκριμένες εγγυήσεις προστασίας. Στην περίπτωση της αξιολόγησης των δημοσίων υπαλλήλων, δεν υπάρχει τέτοια ειδική νομοθετική πρόβλεψη, συνεπώς δεν υπάρχει νομική βάση που να επιτρέπει τη χρήση του εν λόγω συστήματος και να εγγυάται την ορθή χρήση του.

Με βάση τα διαθέσιμα στοιχεία, το Υπουργείο Εσωτερικών δεν φαίνεται να έχει δημοσιεύσει την απαιτούμενη αξιολόγηση αντικτύπου ούτε τις πληροφορίες διαφάνειας που προβλέπει ο νόμος. Επίσης, δεν είναι γνωστό αν οι δημόσιοι υπάλληλοι ενημερώθηκαν με σαφή τρόπο για το πώς το σύστημα τεχνητής νοημοσύνης επηρέασε την αξιολόγησή τους.

Και καταλήγοντας, η καταγγελία αναφέρει ότι η αξιολόγηση των δημοσίων υπαλλήλων είναι αναγκαίο εργαλείο για μια ποιοτική δημόσια διοίκηση, όμως η αυθαίρετη και αδιαφανής χρήση συστημάτων τεχνητής νοημοσύνης σε μια τέτοια διαδικασία συνδέεται διεθνώς με αλγοριθμική μεροληψία, έλλειψη διαφάνειας και αδυναμία λογοδοσίας, γι’ αυτό και ο Ευρωπαϊκός Κανονισμός για την ΤΝ (AI Act) την κατατάσσει ως εφαρμογή υψηλού κινδύνου. Το διακύβευμα ξεπερνά τη συγκεκριμένη υπόθεση και αφορά το Κράτος Δικαίου, τη λειτουργία των θεσμών και τα θεμελιώδη δικαιώματα των εργαζομένων.

Η Homo Digitalis και το ΙΝΕΡΠ αναμένουν την εξέταση των καταγγελιών από την ΕΑΔ και θα ενημερώσουν για κάθε εξέλιξη.