Ρωτάς το Google για θέματα υγείας; Υπάρχει ένας κρυφός κίνδυνος

Σε μία εξαιρετικά επικίνδυνη κίνηση για τους χρήστες που αναζητούν στο Google θέματα υγείας προχωρά ο τεχνολογικό κολοσσός σύμφωνα με τον Guardian, καθώς φαίνεται ότι υποβαθμίζει τις προειδοποιήσεις ασφαλείας ότι οι ιατρικές συμβουλές που παράγονται από τεχνητή νοημοσύνη ενδέχεται να είναι λανθασμένες.

Η εταιρεία έχει δηλώσει πως όταν κάποιος χρήστη θέτει ένα ερώτημα για την υγεία στη μηχανή αναζήτησής της, τα AI Overviews, τα οποία εμφανίζονται πάνω από τα αποτελέσματα αναζήτησης, θα παροτρύνουν τους χρήστες να αναζητούν επαγγελματική βοήθεια αντί να βασίζονται αποκλειστικά στις περιλήψεις της. «Τα AI Overviews θα ενημερώνουν τους ανθρώπους όταν είναι σημαντικό να αναζητήσουν συμβουλή ειδικού ή να επαληθεύσουν τις πληροφορίες που παρουσιάζονται», έχει αποσαφηνίσει η Google.

Ωστόσο, ο Guardian διαπίστωσε ότι η εταιρεία δεν προχωρά σε τέτοια παρότρυνση στην αρχή των AI Overviews παρά μόνο εάν οι χρήστες επιλέξουν να ζητήσουν επιπλέον πληροφορίες και κάνουν κλικ στο κουμπί με την ένδειξη «Show more».

Ακόμη και τότε βέβαια, οι επισημάνσεις ασφαλείας εμφανίζονται μόνο κάτω από όλες τις επιπλέον ιατρικές πληροφορίες που έχουν συγκεντρωθεί με χρήση generative AI και με μικρότερη, πιο αχνή γραμματοσειρά.

«Οι παραπάνω πληροφορίες παρέχονται μόνο για ενημερωτικούς σκοπούς», αναφέρει η δήλωση αποποίησης ευθύνης σε όσους κάνουν κλικ για περισσότερες λεπτομέρειες αφού δουν την αρχική σύνοψη και πλοηγηθούν μέχρι το τέλος του AI Overview. «Για ιατρική συμβουλή ή διάγνωση, συμβουλευτείτε έναν επαγγελματία. Οι απαντήσεις AI ενδέχεται να περιλαμβάνουν λάθη.»

Η Google δεν αρνήθηκε ότι οι αποποιήσεις ευθύνης της δεν εμφανίζονται όταν οι χρήστες λαμβάνουν αρχικά ιατρικές συμβουλές, ούτε ότι εμφανίζονται κάτω από τα AI Overviews και με μικρότερη, πιο αχνή γραμματοσειρά. Τα AI Overviews «ενθαρρύνουν τους χρήστες να αναζητούν επαγγελματική ιατρική συμβουλή» και συχνά αναφέρουν την ανάγκη ιατρικής φροντίδας μέσα στην ίδια τη σύνοψη «όταν είναι απαραίτητο», δήλωσε εκπρόσωπος.

Γιατί είναι τόσο σημαντικό;

Ειδικοί στην τεχνητή νοημοσύνη και υπερασπιστές δικαιωμάτων ασθενών που ενημερώθηκαν για τα ευρήματα του Guardian εξέφρασαν ανησυχία. Οι δηλώσεις αποποίησης ευθύνης επιτελούν ζωτικό ρόλο, είπαν, και θα πρέπει να εμφανίζονται ευδιάκριτα όταν οι χρήστες λαμβάνουν για ιατρικές συμβουλές.

«Η απουσία δηλώσεων αποποίησης ευθύνης όταν οι χρήστες λαμβάνουν ιατρικές πληροφορίες δημιουργεί κρίσιμους κινδύνους», δήλωσε ο Pat Pataranutaporn, επίκουρος καθηγητής, τεχνολόγος και ερευνητής στο Massachusetts Institute of Technology (MIT) και διεθνώς αναγνωρισμένος ειδικός στην AI και την αλληλεπίδραση ανθρώπου-υπολογιστή.

«Πρώτον, ακόμη και τα πιο προηγμένα μοντέλα AI σήμερα εξακολουθούν να παραπληροφορούν ή να επιδεικνύουν συμπεριφορά κολακείας προς τον χρήστη, δίνοντας προτεραιότητα στην ικανοποίησή του έναντι της ακρίβειας. Σε πλαίσιο υγειονομικής περίθαλψης, αυτό μπορεί να είναι πραγματικά επικίνδυνο.

»Δεύτερον, το ζήτημα δεν αφορά μόνο τους περιορισμούς της AI – αφορά και την ανθρώπινη πλευρά. Οι χρήστες ενδέχεται να μην παρέχουν όλο το απαραίτητο πλαίσιο ή να θέτουν λάθος ερωτήσεις, ερμηνεύοντας εσφαλμένα τα συμπτώματά τους.

»Οι δηλώσεις αποποίησης ευθύνης είναι κρίσιμες. Διακόπτουν την αυτόματη εμπιστοσύνη του χρήστη προς την μηχανή και τον ωθούν να προσεγγίσει πιο κριτικά τις πληροφορίες που λαμβάνει.»

Τον Ιανουάριο, έρευνα της Guardian αποκάλυψε ότι άνθρωποι εκτίθενται σε κίνδυνο λόγω ψευδών και παραπλανητικών πληροφοριών υγείας στα Google AI Overviews.

Μετά το ρεπορτάζ της Guardian, η Google αφαίρεσε τα AI Overviews για ορισμένες, αλλά όχι για όλες, ιατρικές αναζητήσεις.

Η Sonali Sharma, ερευνήτρια στο κέντρο AI in medicine and imaging (AIMI) του Stanford University, δήλωσε: «Το βασικό πρόβλημα είναι ότι αυτά τα Google AI Overviews εμφανίζονται στην κορυφή της σελίδας αναζήτησης και συχνά δίνουν αυτό που μοιάζει με πλήρη απάντηση στο ερώτημα ενός χρήστη, σε μια στιγμή που εκείνος προσπαθεί να αποκτήσει πληροφορίες και να λάβει απάντηση όσο το δυνατόν πιο γρήγορα.

»Για πολλούς ανθρώπους, επειδή αυτή η ενιαία σύνοψη βρίσκεται άμεσα μπροστά τους, δημιουργείται μια αίσθηση καθησυχασμού που αποθαρρύνει την περαιτέρω αναζήτηση ή την κύλιση μέχρι το τέλος της σύνοψης και το πάτημα του “Show more”, όπου ενδέχεται να εμφανιστεί η δήλωση αποποίησης ευθύνης.

»Αυτό που μπορεί να εκθέσει τον χρήστη σε κίνδυνο είναι το γεγονός ότι τα AI Overviews συχνά περιέχουν εν μέρει σωστές και εν μέρει λανθασμένες πληροφορίες και γίνεται πολύ δύσκολο να διακρίνει κανείς τι είναι ακριβές και τι όχι, εκτός αν είναι ήδη εξοικειωμένος με το αντικείμενο.»

Εκπρόσωπος της Google δήλωσε: «Δεν είναι ακριβές να υποστηρίζεται ότι τα AI Overviews δεν ενθαρρύνουν τους ανθρώπους να αναζητούν επαγγελματική ιατρική συμβουλή. Πέρα από μια σαφή αποποίηση ευθύνης, τα AI Overviews συχνά αναφέρουν την ανάγκη ιατρικής φροντίδας μέσα στην ίδια την επισκόπηση, όταν αυτό είναι απαραίτητο.»