Έρευνα της εφημερίδας The Guardian διαπίστωσε ότι οι περιλήψεις που παράγει η τεχνητή νοημοσύνη της Google παρείχαν ανακριβείς πληροφορίες για θέματα υγείας.
Σύμφωνα με πληροφορίες, η Google αφαίρεσε ορισμένα AI Overviews για ερωτήματα που σχετίζονται με την υγεία, έπειτα από έρευνα που διαπίστωσε ότι μέρος των πληροφοριών ήταν παραπλανητικό.
Τα AI Overviews είναι περιλήψεις που δημιουργούνται από τεχνητή νοημοσύνη και παρέχουν πληροφορίες ως απάντηση σε ένα θέμα ή ερώτημα, στο επάνω μέρος των αποτελεσμάτων αναζήτησης.
Έρευνα της εφημερίδας Guardian διαπίστωσε ότι ορισμένες από τις περιλήψεις περιείχαν ανακριβείς πληροφορίες υγείας, εκθέτοντας τους ανθρώπους σε κίνδυνο.
Η εφημερίδα διαπίστωσε ότι τα AI Overviews παρέθεταν πλήθος αριθμών με ελάχιστο πλαίσιο, ως απάντηση σε ερωτήσεις όπως «what is the normal range for liver blood tests?» και «what is the normal range for liver function tests?». Οι απαντήσεις επίσης δεν λάμβαναν υπόψη τυχόν διακυμάνσεις ανάλογα με την εθνικότητα, το φύλο, την εθνοτική καταγωγή ή την ηλικία.
Στα αποτελέσματα αναζήτησης της Google για τα δύο ερωτήματα εμφανίστηκε ένα προβεβλημένο απόσπασμα, μια παράγραφος που εξάγεται από τον πιο σχετικό ιστότοπο με την ερώτηση του χρήστη και προβάλλεται στην κορυφή των αποτελεσμάτων.
Και για τα δύο ερωτήματα, η Google επέλεξε να εξαγάγει στο απόσπασμα το εύρος των φυσιολογικών επιπέδων διαφόρων ουσιών που βρίσκονται στο ήπαρ, όπως η αμινοτρανσφεράση της αλανίνης (ALT), που ρυθμίζει την παραγωγή ενέργειας, η ασπαρτική αμινοτρανσφεράση (AST), που ανιχνεύει κατεστραμμένα αιμοκύτταρα, και η αλκαλική φωσφατάση (ALP), που βοηθά στη διάσπαση των πρωτεϊνών.
Η Google άντλησε τους αριθμούς από τη Max Healthcare, μια ινδική κερδοσκοπική αλυσίδα νοσοκομείων στο Νέο Δελχί, σύμφωνα με τη Guardian.
Τα προβεβλημένα αποσπάσματα διαφέρουν από τα AI Overviews, επειδή το κείμενο στο απόσπασμα δεν παράγεται από την ΤΝ.
Η έρευνα της Guardian διαπίστωσε ότι παραλλαγές αυτών των ερωτημάτων, όπως «[liver function test] lft reference range» ή «lft test reference range», εξακολουθούσαν να παράγουν περιλήψεις από ΤΝ. Τα τεστ ηπατικής λειτουργίας είναι εξετάσεις αίματος που μετρούν πρωτεΐνες και ένζυμα για να ελεγχθεί πόσο καλά λειτουργεί το ήπαρ.
Σύμφωνα με πληροφορίες, η Google συνέστησε σε άτομα με καρκίνο του παγκρέατος να αποφεύγουν τροφές με υψηλά λιπαρά, κάτι που, όπως είπαν ειδικοί στη Guardian, δεν είναι καλή σύσταση, καθώς μπορεί να αυξήσει τον κίνδυνο οι ασθενείς να πεθάνουν από τη νόσο.
Η έρευνα της Guardian έρχεται καθώς ειδικοί κρούουν τον κώδωνα του κινδύνου για το πώς τα chatbot ΤΝ «παρουσιάζουν παραισθήσεις», δηλαδή επινοούν ψευδείς απαντήσεις όταν δεν διαθέτουν τις σωστές πληροφορίες.
Το Euronews Next απευθύνθηκε στη Google για να ρωτήσει αν είχε αφαιρέσει τα AI Overviews από ορισμένα ερωτήματα υγείας, αλλά δεν έλαβε άμεση απάντηση.
Η Google ανακοίνωσε αυτό το Σαββατοκύριακο ότι προσθέτει τα AI Overviews στην υπηρεσία ηλεκτρονικού ταχυδρομείου της, το Gmail.
Η νέα λειτουργία επιτρέπει στους χρήστες να θέτουν ερωτήσεις και να λαμβάνουν απάντηση σχετικά με τα email τους, αντί να τα αναζητούν με λέξεις-κλειδιά.