Μπορεί η AI να στραφεί εναντίον μας; Τα σενάρια που φοβίζουν τους ειδικούς

Τις τελευταίες εβδομάδες, οι προειδοποιήσεις για τους πιθανούς κινδύνους της τεχνητής νοημοσύνης έχουν πυροδοτήσει εκκλήσεις για συντονισμένη δράση με στόχο την επιβράδυνση της ανάπτυξης της τεχνολογίας.

Οι ισχυρισμοί νυν και πρώην ερευνητών ότι η τεχνολογία θα θέσει σε κίνδυνο την ανθρωπότητα —με έναν εξ αυτών να υποστηρίζει ότι υπάρχει πιθανότητα άνω του 10% να «σκοτώσει όλους τους ανθρώπους»— έχουν σημάνει συναγερμό.

Οι δύο κορυφαίες εταιρείες του κλάδου, OpenAI και Anthropic, έχουν καλέσει τους νομοθέτες να θεσπίσουν κανόνες για την AI, αν και ορισμένοι εκτιμούν —με πιο κυνική ανάγνωση— ότι η στάση αυτή μπορεί να αποσκοπεί και στην ενίσχυση της θέσης τους απέναντι στους ανταγωνιστές.

Σε κάθε περίπτωση, σημειώνει το BBC, οι τοποθετήσεις αυτές έχουν προκαλέσει ανησυχία.

Γιατί ορισμένοι θεωρούν ότι η AI θα μπορούσε να αποτελέσει απειλή;

Ορισμένοι ερευνητές της τεχνητής νοημοσύνης λένε ότι υπάρχουν ανησυχητικές ενδείξεις πως τα συστήματα αναπτύσσουν τις δυνατότητες και την ισχύ τους υπερβολικά γρήγορα.

Ο Έβαν Χούμπινγκερ έγινε πρωτοσέλιδο με την εκτίμησή του ότι υπάρχει πιθανότητα άνω του 10% η AI «να μπορούσε να σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.

Εργάζεται στον τομέα του alignment, ένα πεδίο που αποσκοπεί στην ενσωμάτωση ανθρώπινων ηθικών αντιλήψεων και αρχών στην AI. Με άλλα λόγια, στόχος είναι να διατηρείται η τεχνολογία ευθυγραμμισμένη με όσα θεωρούν πολύτιμα οι άνθρωποι.

Παρότι ο ίδιος εκτίμησε ότι ο κίνδυνος από τα σημερινά συστήματα παραμένει «χαμηλός», οι δηλώσεις του ήρθαν την ίδια περίοδο που ένας ακόμη ερευνητής αποχώρησε από την Anthropic, προειδοποιώντας ότι οι άνθρωποι που αναπτύσσουν την τεχνολογία αρχίζουν να χάνουν τον έλεγχό της.

Ο Τζέικομπ Κόξον δήλωσε στο BBC ότι ο ίδιος και άλλοι εργαζόμενοι “φοβούνται πραγματικά” από την ταχύτητα των εξελίξεων και από το τι αυτές θα μπορούσαν να σημαίνουν για την ανθρωπότητα.

Οι ανησυχίες αυτές αποτελούν συνέχεια μιας συζήτησης που κρατά εδώ και δεκαετίες γύρω από το ενδεχόμενο η AI να εξελιχθεί σε απειλή για την ανθρωπότητα, αν κάποτε φτάσει ή ξεπεράσει τις ανθρώπινες ικανότητες. Ο Άλαν Τούρινγκ έγραφε τη δεκαετία του 1950 ότι, εάν καταστεί δυνατή η δημιουργία ευφυών μηχανών, αυτές θα μπορούσαν να πάρουν τον έλεγχο.

Τα τελευταία χρόνια, οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης επιδίδονται σε έναν αγώνα δρόμου για την ανάπτυξη ολοένα και πιο ικανών συστημάτων, τόσο για το κέρδος όσο και στο πλαίσιο της επιδίωξης για τη δημιουργία αυτού που αποκαλούν υπερνοημοσύνη — μιας θεωρητικής τεχνολογίας που θα είναι εξυπνότερη από τους ανθρώπους.

Σε αντίθεση με τα συστήματα και τα εργαλεία που πολλοί άνθρωποι χρησιμοποιούν καθημερινά για εργασίες όπως η σύνταξη email ή η δημιουργία βίντεο, τα υπερνοήμονα συστήματα AI θα πρέπει να μπορούν να διαχειρίζονται πολύ πιο σύνθετες εργασίες.

Η OpenAI και η Anthropic δηλώνουν ότι στόχος τους είναι να προωθήσουν μια τέτοια τεχνολογία με τρόπο που θα ωφελεί τους ανθρώπους και θα τους προστατεύει από τους υπαρξιακούς κινδύνους της. Ορισμένοι επικριτές, ωστόσο, θεωρούν ότι οι μηχανές δεν μπορούν ποτέ να φτάσουν πραγματικά τον άνθρωπο. Υποστηρίζουν ότι οι εταιρείες AI υπερβάλλουν ως προς τις δυνατότητες της τεχνολογίας, προκειμένου να ενισχύσουν την επιρροή τους ή τα κέρδη τους.

Πώς η AI θα μπορούσε να απειλήσει την ανθρωπότητα

Ερευνητές, ειδικοί και στελέχη εταιρειών AI που προειδοποιούν για τους κινδύνους της τεχνολογίας έχουν περιγράψει μια σειρά από δυσοίωνα σενάρια για το πώς θα μπορούσε να απειλήσει την ανθρωπότητα.

Ο Ντάριο Αμοντέι έγραψε τον Σεπτέμβριο ότι η τεχνολογία έχει εξελιχθεί «δραστικά ταχύτερα» από ό,τι αναμενόταν, μεταξύ άλλων ως προς την «ικανότητά της να δημιουργεί την επόμενη γενιά AI».

Η ανησυχία εδώ είναι ότι η AI, αφού φτάσει σε ένα ορισμένο επίπεδο, θα μπορούσε θεωρητικά να αρχίσει να βελτιώνει τον εαυτό της χωρίς ανθρώπινη παρέμβαση. Τέτοιοι φόβοι ενισχύθηκαν μετά από ένα πρόσφατο περιστατικό κατά το οποίο εργαλεία AI παραβίασαν ιστοσελίδες, παρότι δεν τους είχε ζητηθεί να το κάνουν.

Ορισμένοι ανήσυχοι ερευνητές έχουν δηλώσει ότι όσοι βρίσκονται στην καρδιά της ανάπτυξης της τεχνολογίας φοβούνται ολοένα και περισσότερο ότι μπορεί να χάσουν τον έλεγχο συστημάτων γνωστών ως «AI agents». Πρόκειται για εργαλεία στα οποία δίνεται η δυνατότητα να εκτελούν αυτόνομα εργασίες και ενέργειες.

Άλλα σενάρια περιλαμβάνουν τη χρήση εξαιρετικά ευφυών συστημάτων AI για την ενίσχυση ή τη διεξαγωγή κατασκοπείας, κυβερνοεπιθέσεων ή βιολογικού πολέμου, ή για την αποσταθεροποίηση οικονομιών — είτε κατά λάθος είτε εκ προθέσεως.

Ωστόσο, τέτοιες προειδοποιήσεις είναι προφητικές, υποθετικές και, για ορισμένους, πλήρως υπερβολικές.

Ορισμένοι ειδικοί έχουν επίσης επικρίνει την εστίαση στους υπαρξιακούς κινδύνους αντί σε εκείνους που ήδη εκδηλώνονται — όπως η χρήση εργαλείων δημιουργίας εικόνας για την παραγωγή γυμνών deepfake εικόνων γυναικών χωρίς τη συγκατάθεσή τους, την παραπληροφόρηση των πολιτών και την ενίσχυση των απατών.

Μια διακομματική ομάδα βουλευτών και μελών της Βουλής των Λόρδων δημοσίευσε έκθεση στην οποία περιγράφονται οι κίνδυνοι που θέτει η AI για τα ανθρώπινα δικαιώματα, επισημαίνοντας ότι απαιτούνται νέοι νόμοι για να «αντιμετωπιστούν η έκταση και η σοβαρότητα» τέτοιων απειλών.

Προτάσεις για επιβράδυνση της AI

Ο Ντάριο Αμοντέι της Anthropic και ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, έχουν ζητήσει τη ρύθμιση και μια «επιβράδυνση» της ανάπτυξης της τεχνολογίας. Δεν είναι η πρώτη φορά που επικεφαλής εταιρειών ή ευρύτερες φωνές από τον κλάδο ζητούν κάτι τέτοιο.

Ωστόσο, εξακολουθούν να αυξάνονται τα ερωτήματα για το τι θα σήμαινε στην πράξη οποιαδήποτε μορφή «επιβράδυνσης» — την οποία έχει επίσης υποστηρίξει ο επικεφαλής της SpaceX, Ίλον Μασκ.

Ο Αμοντέι δήλωσε ότι αυτό δεν θα σήμαινε «διακοπή της εκπαίδευσης μοντέλων ή της τεχνικής προόδου».

Αντίθετα, θέλει οι εταιρείες να «αφιερώνουν επαρκή χρόνο» στη θωράκιση της ασφάλειας της AI που αναπτύσσουν και να ζητούν από «τρίτους αξιολογητές» να ελέγχουν τη δουλειά τους.

Σε ανάρτησή του στο X, ο Άλτμαν τάχθηκε υπέρ μιας πιο ελεγχόμενης πορείας ανάπτυξης της AI, διευκρινίζοντας ωστόσο ότι «όταν μιλάμε για επιβράδυνση, δεν εννοούμε διακοπή».

«Η πρόοδος υπήρξε ταχεία και θα συνεχίσει να είναι», είπε.

«Αλλά θα πρέπει να είναι πιο αργή από όσο θα μπορούσε διαφορετικά να είναι — παρεμβάσεις όπως οι αξιολογήσεις ασφαλείας και η παρακολούθηση έχουν σημαντικό κόστος».

Ο συνιδρυτής της OpenAI δήλωσε επίσης ότι οι εταιρείες δεν περίμεναν —και δεν πρόκειται να περιμένουν— τις κυβερνήσεις να αναλάβουν δράση.

Τι έχει πει ο Τραμπ;

Ο Ντόναλντ Τραμπ έχει κατά το παρελθόν εξάρει τα οφέλη της τεχνητής νοημοσύνης και έχει ταχθεί υπέρ της πρωτοπορίας των αμερικανικών εταιρειών στην ανάπτυξή της.

Η κυβέρνησή του έχει υπογράψει εκτελεστικά διατάγματα που αναγνωρίζουν τη «στρατηγική σημασία» της τεχνολογίας για την οικονομία και επιταχύνουν την ανάπτυξή της.

«Πιστεύουμε ότι βρισκόμαστε σε μια κούρσα για την AI και θέλουμε οι Ηνωμένες Πολιτείες να κερδίσουν αυτή την κούρσα», δήλωσε στους δημοσιογράφους τον Ιούλιο του 2025 ο Ντέιβιντ Σακς, αρμόδιος της αμερικανικής κυβέρνησης για τα κρυπτονομίσματα.

Ωστόσο, μπροστά στις πρόσφατες προειδοποιήσεις για τις πιθανές επιπτώσεις της στην ανθρωπότητα, ο πρόεδρος Τραμπ υποβάθμισε τους κινδύνους που θέτει η AI.

«Υπάρχουν πολλές πολύ αρνητικές δυνάμεις που θέτουν αυτό το ζήτημα, ενώ δεν θα έπρεπε να το θέτουν, και αναφέρουν πράγματα που δεν πρόκειται να συμβούν», δήλωσε ο Τραμπ κατά τη διάρκεια επίσκεψής του στην Ιρλανδία.

Δεν αναφέρθηκε άμεσα στην ιδέα μιας επιβράδυνσης, είπε όμως στους δημοσιογράφους: «Προηγούμαστε της Κίνας στην AI… και, ειλικρινά, θέλω να παραμείνει έτσι, γιατί όποιος κερδίσει στην AI, κερδίζει».

Τι έχει πει η Κίνα;

Η Κίνα δεν έχει σχολιάσει ακόμα το κύμα των δυσοίωνων προειδοποιήσεων από ερευνητές αμερικανικών εταιρειών.

Παρά τον έντονο ανταγωνισμό και τους περιορισμούς στην πρόσβασή της σε αμερικανικά εξαρτήματα και μικροτσίπ που είναι απαραίτητα για τις υποδομές AI, η Κίνα έχει επιταχύνει την ανάπτυξη εγχώριων τεχνολογιών τεχνητής νοημοσύνης.

Την ίδια στιγμή, έχει ζητήσει ισχυρότερη παγκόσμια διακυβέρνηση της AI.

Η διάθεση ισχυρών συστημάτων και εργαλείων AI ανοιχτού κώδικα από κινεζικά εργαστήρια έχει ταράξει τις δυτικές αγορές και τους developers τα τελευταία χρόνια.

Ο Αμοντέι, ζητώντας επιβράδυνση της ανάπτυξης της AI, προειδοποίησε ότι η πρόοδος της Κίνας και η αυξανόμενη επάρκειά της στον τομέα της τεχνητής νοημοσύνης θα δημιουργούσαν κινδύνους για την εθνική ασφάλεια των ΗΠΑ.

Το κινεζικό υπουργείο Εξωτερικών επέκρινε τα σχόλια, χαρακτηρίζοντάς τα αφηγήματα περί απειλής, αντιπαράθεσης και κακόβουλου ανταγωνισμού που δεν εξυπηρετούν τα συμφέροντα κανενός.