Google: Απαντήσεις της AI Overview για θέματα υγείας αποδείχθηκαν επικίνδυνες

Η Google απέσυρε ορισμένες από τα ΑΙ Overviews για θέματα υγείας, μετά από έρευνα της βρετανικής εφημερίδας Guardian, η οποία αποκάλυψε ότι σε κάποιες περιπτώσεις οι χρήστες κινδυνεύουν λόγω της έκθεσής τους σε ψευδείς ή παραπλανητικές πληροφορίες.

Η εταιρεία υποστηρίζει ότι τα AI Overviews, σύντομες περιλήψεις βασικών πληροφοριών που δημιουργούνται με τεχνητή νοημοσύνη και εμφανίζονται στην κορυφή των αποτελεσμάτων αναζήτησης, είναι «χρήσιμα» και «αξιόπιστα». Ωστόσο, ορισμένα από αυτά περιείχαν ανακριβή στοιχεία για θέματα υγείας, δημιουργώντας σοβαρούς κινδύνους για τους χρήστες.

Σε μία χαρακτηριστική περίπτωση, που ειδικοί χαρακτήρισαν «επικίνδυνη» και «ανησυχητική», η Google παρείχε λανθασμένες πληροφορίες για κρίσιμες εξετάσεις ηπατικής λειτουργίας. Το αποτέλεσμα θα μπορούσε να είναι άτομα με σοβαρή ηπατική νόσο να πιστεύουν εσφαλμένα ότι είναι υγιή.

Σύμφωνα με την έρευνα της Guardian, η αναζήτηση «ποιο είναι το φυσιολογικό εύρος για εξετάσεις αίματος του ήπατος» εμφάνιζε πλήθος αριθμών, χωρίς επαρκές πλαίσιο και χωρίς να λαμβάνονται υπόψη παράγοντες όπως η εθνικότητα, το φύλο, ή η ηλικία των ασθενών.

Όπως τόνισαν ειδικοί, τα «φυσιολογικά» όρια που παρουσίαζαν τα AI Overviews διέφεραν σημαντικά από αυτά που θεωρούνται πραγματικά φυσιολογικά στην ιατρική. Αυτό θα μπορούσε να οδηγήσει σοβαρά ασθενείς στο να πιστέψουν ότι τα αποτελέσματά τους είναι εντός ορίων και να μην προχωρήσουν στην αναγκαία ιατρική τους παρακολούθηση.

Μετά τη δημοσιοποίηση των ευρημάτων, η Google αφαίρεσε τα AI Overviews για τις αναζητήσεις «what is the normal range for liver blood tests» και «what is the normal range for liver function tests».

Εκπρόσωπος της Google δήλωσε: «Δεν σχολιάζουμε μεμονωμένες αφαιρέσεις από την Αναζήτηση. Σε περιπτώσεις όπου τα AI Overviews στερούνται επαρκούς πλαισίου, προχωρούμε σε συνολικές βελτιώσεις και λαμβάνουμε μέτρα βάσει των πολιτικών μας, όπου αυτό κρίνεται απαραίτητο».

Η Βανέσα Χέμπντιτς, διευθύντρια επικοινωνίας και πολιτικής του British Liver Trust, χαρακτήρισε την εξέλιξη «εξαιρετικά θετική». «Χαιρόμαστε που αποσύρθηκαν τα AI Overviews σε αυτές τις περιπτώσεις. Ωστόσο, αν το ερώτημα τεθεί με διαφορετικό τρόπο, ενδέχεται να εμφανιστεί ξανά μια παραπλανητική σύνοψη, κάτι που μας ανησυχεί ιδιαίτερα», σημείωσε.

H Guardian διαπίστωσε ότι μικρές παραλλαγές των αρχικών αναζητήσεων, όπως «lft reference range» ή «lft test reference range», εξακολουθούσαν να ενεργοποιούν AI Overviews. «Αυτό είναι πολύ ανησυχητικό», δήλωσε η Χέμπντιτς.

Όπως εξήγησε, οι εξετάσεις ηπατικής λειτουργίας (LFT) αποτελούνται από μια σειρά διαφορετικών αιματολογικών εξετάσεων και η ερμηνεία τους είναι σύνθετη. «Δεν αρκεί μια απλή σύγκριση αριθμών. Τα AI Overviews παρουσιάζουν τις εξετάσεις με έντονη γραφή, με αποτέλεσμα ο αναγνώστης να μην αντιλαμβάνεται ότι οι αριθμοί μπορεί να μην αφορούν καν τη δική του εξέταση», είπε.

Παράλληλα, τα AI Overviews δεν προειδοποιούν ότι κάποιος μπορεί να έχει φυσιολογικά αποτελέσματα και παρ’ όλα αυτά να πάσχει από σοβαρή ηπατική νόσο. «Αυτή η ψευδής αίσθηση ασφάλειας μπορεί να είναι εξαιρετικά επιβλαβής», πρόσθεσε.

Η Google, η οποία κατέχει περίπου το 91% της παγκόσμιας αγοράς μηχανών αναζήτησης, ανέφερε ότι εξετάζει και άλλα παραδείγματα που της κοινοποίησε η Guardian.

Η Χέμπντιτς υπογράμμισε ότι το βασικό πρόβλημα παραμένει: «Η Google μπορεί να απενεργοποιεί τα AI Overviews για μεμονωμένες αναζητήσεις, αλλά δεν αντιμετωπίζει το ευρύτερο ζήτημα των AI Overviews σε θέματα υγείας».

Την απόσυρση των συγκεκριμένων περιλήψεων χαιρέτισε και η Σου Φάρινγκτον, πρόεδρος του Patient Information Forum, εκφράζοντας ωστόσο επιφυλάξεις. «Είναι ένα θετικό βήμα, αλλά μόλις το πρώτο από όσα απαιτούνται για να διατηρηθεί η εμπιστοσύνη στα αποτελέσματα υγείας της Google. Υπάρχουν ακόμη πάρα πολλά παραδείγματα ανακριβών πληροφοριών», είπε.

Όπως σημείωσε, εκατομμύρια ενήλικες παγκοσμίως δυσκολεύονται ήδη να βρουν αξιόπιστες πληροφορίες υγείας. «Γι’ αυτό είναι κρίσιμο η Google να κατευθύνει τους χρήστες σε τεκμηριωμένες πηγές και σε υπηρεσίες φροντίδας από αξιόπιστους οργανισμούς», τόνισε.

Παρά τις αλλαγές, AI Overviews εξακολουθούν να εμφανίζονται και σε άλλες περιπτώσεις που είχε επισημάνει η Guardian, μεταξύ των οποίων πληροφορίες για τον καρκίνο και την ψυχική υγεία, τις οποίες ειδικοί χαρακτήρισαν «εντελώς λανθασμένες» και «ιδιαίτερα επικίνδυνες».

Ερωτηθείσα γιατί δεν αποσύρθηκαν και αυτές, η Google απάντησε ότι οι συγκεκριμένες περιλήψεις παραπέμπουν σε γνωστές και αξιόπιστες πηγές και ενημερώνουν τους χρήστες για το πότε είναι απαραίτητο να ζητήσουν τη συμβουλή ειδικού.

«Η εσωτερική μας ομάδα κλινικών γιατρών εξέτασε το υλικό και διαπίστωσε ότι σε πολλές περιπτώσεις οι πληροφορίες δεν ήταν ανακριβείς και υποστηρίζονταν από υψηλής ποιότητας ιστοσελίδες», δήλωσε εκπρόσωπος της εταιρείας.

Ο Βίκτορ Τάνγκερμαν, ανώτερος συντάκτης του τεχνολογικού ιστότοπου Futurism, σχολίασε ότι τα ευρήματα της έρευνας δείχνουν πως η Google έχει ακόμη δρόμο να διανύσει, «ώστε να διασφαλίσει ότι τα εργαλεία τεχνητής νοημοσύνης της δεν διασπείρουν επικίνδυνη παραπληροφόρηση για την υγεία».