Η λειτουργία τεχνητής νοημοσύνης AI Overviews της Google παραπέμπει στο YouTube συχνότερα από οποιονδήποτε επιστημονικό ιατρικό ιστότοπο όταν απαντά σε ερωτήματα για παθήσεις και θέματα υγείας, σύμφωνα με νέα έρευνα που εγείρει σοβαρά ερωτήματα, καθώς αυτό το εργαλείο φαίνεται ότι το χρησιμοποιούν περίπου 2 δισεκατομμύρια χρήστες κάθε μήνα.
Η Google έχει δηλώσει ότι οι περιλήψεις που παράγει η τεχνητή νοημοσύνη της —οι οποίες εμφανίζονται στην κορυφή των αποτελεσμάτων αναζήτησης— είναι «αξιόπιστες» και βασίζονται σε έγκυρες ιατρικές πηγές, όπως τα Κέντρα Ελέγχου και Πρόληψης Νοσημάτων (CDC) και η Mayo Clinic.
Ωστόσο, μελέτη που ανέλυσε απαντήσεις σε περισσότερα από 50.000 ερωτήματα υγείας, μέσω αναζητήσεων Google από το Βερολίνο, διαπίστωσε ότι η πιο συχνά αναφερόμενη πηγή ήταν το YouTube.
Η πλατφόρμα βίντεο είναι ο δεύτερος πιο επισκέψιμος ιστότοπος παγκοσμίως — μετά την ίδια τη Google — και ανήκει επίσης στην εταιρεία.
Η έρευνα πραγματοποιήθηκε από την SE Ranking, πλατφόρμα ανάλυσης και βελτιστοποίησης μηχανών αναζήτησης, και έδειξε ότι το YouTube αντιστοιχούσε στο 4,43% όλων των παραπομπών που εμφανίζονταν στα AI Overviews. Κανένα νοσοκομειακό δίκτυο, κρατική υγειονομική πύλη, ιατρικός σύλλογος ή ακαδημαϊκό ίδρυμα δεν πλησίασε αυτό το ποσοστό.
«Αυτό έχει σημασία, γιατί το YouTube δεν είναι ιατρικός εκδότης», έγραψαν οι ερευνητές.
«Είναι μια γενικής χρήσης πλατφόρμα βίντεο. Οποιοσδήποτε μπορεί να ανεβάσει περιεχόμενο — από πιστοποιημένους γιατρούς και νοσοκομειακά κανάλια μέχρι wellness influencers, life coaches και δημιουργούς χωρίς καμία ιατρική εκπαίδευση» πρόσθεσαν.
Η Google δήλωσε στον Guardian ότι τα AI Overviews έχουν σχεδιαστεί ώστε να αναδεικνύουν υψηλής ποιότητας περιεχόμενο από αξιόπιστες πηγές, ανεξαρτήτως μορφής, και ότι στο YouTube δραστηριοποιούνται πολλοί αξιόπιστοι υγειονομικοί φορείς και αδειοδοτημένοι επαγγελματίες υγείας.
Παράλληλα, υποστήριξε ότι τα ευρήματα της έρευνας δεν μπορούν να γενικευτούν σε άλλες χώρες, καθώς βασίστηκαν σε γερμανόφωνες αναζητήσεις στη Γερμανία.
Η έρευνα έρχεται στον απόηχο δημοσιογραφικής έρευνας του Guardian, η οποία αποκάλυψε ότι χρήστες εκτίθενται σε επικίνδυνη παραπληροφόρηση μέσα από απαντήσεις των AI Overviews.
Σε μία περίπτωση που ειδικοί χαρακτήρισαν «επικίνδυνη» και «ανησυχητική», η Google παρείχε λανθασμένες πληροφορίες για κρίσιμες εξετάσεις ηπατικής λειτουργίας, οι οποίες θα μπορούσαν να οδηγήσουν ασθενείς με σοβαρή ηπατική νόσο στο να πιστέψουν ότι είναι υγιείς.
Η εταιρεία αφαίρεσε στη συνέχεια τα AI Overviews από ορισμένες —αλλά όχι όλες— ιατρικές αναζητήσεις.
Η SE Ranking ανέλυσε 50.807 ερωτήματα και λέξεις-κλειδιά σχετικές με την υγεία, εξετάζοντας ποιες πηγές χρησιμοποιούσαν τα AI Overviews για να δημιουργήσουν απαντήσεις.
Η Γερμανία επιλέχθηκε επειδή το σύστημα υγείας της διέπεται από αυστηρό κανονιστικό πλαίσιο, με εθνικές και ευρωπαϊκές οδηγίες, πρότυπα και κανόνες ασφάλειας.
«Αν τα συστήματα τεχνητής νοημοσύνης βασίζονται τόσο έντονα σε μη ιατρικές ή μη θεσμικές πηγές ακόμη και σε ένα τέτοιο περιβάλλον, αυτό υποδηλώνει ότι το πρόβλημα ξεπερνά τα όρια μιας μόνο χώρας», σημειώνουν οι ερευνητές.
Τα AI Overviews εμφανίστηκαν σε πάνω από το 82% των αναζητήσεων υγείας. Από τις 465.823 συνολικές παραπομπές, το YouTube ήταν η πιο συχνά αναφερόμενη πηγή με 20.621 αναφορές.
Ακολούθησαν:
το NDR.de (14.158 αναφορές), ιστότοπος του γερμανικού δημόσιου ραδιοτηλεοπτικού φορέα
το Msdmanuals.com (9.711), ιατρικός ιστότοπος
το Netdoktor.de (7.519), η μεγαλύτερη πύλη υγείας για καταναλωτές στη Γερμανία
το Praktischarzt.de (7.145), πλατφόρμα καριέρας για γιατρούς
Η Χάνα βαν Κόλφσκούτεν, ερευνήτρια με ειδίκευση στην τεχνητή νοημοσύνη, την υγεία και το δίκαιο στο Πανεπιστήμιο της Βασιλείας, η οποία δεν συμμετείχε στη μελέτη, δήλωσε: «Η μελέτη αυτή παρέχει εμπειρικές αποδείξεις ότι οι κίνδυνοι που ενέχουν τα AI Overviews για την υγεία είναι δομικοί και όχι μεμονωμένα περιστατικά. Γίνεται δύσκολο για την Google να υποστηρίξει ότι οι παραπλανητικές ή επιβλαβείς πληροφορίες υγείας αποτελούν σπάνιες εξαιρέσεις. Αντίθετα, τα ευρήματα δείχνουν ότι αυτοί οι κίνδυνοι είναι ενσωματωμένοι στον τρόπο με τον οποίο έχουν σχεδιαστεί τα AI Overviews. Ειδικότερα, η έντονη εξάρτηση από το YouTube, αντί από δημόσιες αρχές υγείας ή ιατρικά ιδρύματα, υποδηλώνει ότι η ορατότητα και η δημοφιλία-και όχι η ιατρική αξιοπιστία- αποτελούν τον βασικό παράγοντα διαμόρφωσης της γνώσης για την υγεία».
Εκπρόσωπος της Google δήλωσε: «Ο υπαινιγμός ότι τα AI Overviews παρέχουν αναξιόπιστες πληροφορίες διαψεύδεται από τα ίδια τα δεδομένα της έρευνας, τα οποία δείχνουν ότι οι συχνότερα αναφερόμενοι ιστότοποι στα AI Overviews είναι αξιόπιστοι. Και, σύμφωνα με όσα έχουμε δει στα δημοσιευμένα ευρήματα, τα AI Overviews παραπέμπουν σε εξειδικευμένο περιεχόμενο του YouTube από νοσοκομεία και κλινικές».
Η Google ανέφερε ότι η μελέτη έδειξε πως από τα 25 πιο συχνά παραπεμπόμενα βίντεο του YouTube, το 96% προερχόταν από ιατρικά κανάλια. Ωστόσο, οι ερευνητές προειδοποίησαν ότι τα συγκεκριμένα βίντεο αντιπροσωπεύουν λιγότερο από το 1% όλων των συνδέσμων του YouTube που παραπέμπουν τα AI Overviews σε θέματα υγείας.
«Οι περισσότεροι από αυτούς (24 από τους 25) προέρχονται από ιατρικά κανάλια, όπως νοσοκομεία, κλινικές και οργανισμούς υγείας», έγραψαν οι ερευνητές. «Επιπλέον, στα 21 από τα 25 βίντεο αναφέρεται ξεκάθαρα ότι το περιεχόμενο δημιουργήθηκε από αδειοδοτημένη ή αξιόπιστη πηγή. Έτσι, με μια πρώτη ματιά, η εικόνα φαίνεται καθησυχαστική. Όμως είναι σημαντικό να θυμόμαστε ότι αυτά τα 25 βίντεο αποτελούν απλώς ένα ελάχιστο δείγμα (λιγότερο από το 1% όλων των συνδέσμων του YouTube που παραπέμπουν τα AI Overviews). Μπορεί να ισχύει κάτι διαφορετικό για τα υπόλοιπα βίντεο» επεσήμαναν οι ερευνητές.