Μία στις πέντε απαντήσεις σε chatbot τεχνητής νοημοσύνης χρησιμοποιεί ρωσικές προπαγανδιστικές ιστοσελίδες ως πηγές, σύμφωνα με νέα μελέτη.
Η ρωσική προπαγάνδα είναι παρούσα σε μία στις πέντε απαντήσεις chatbot τεχνητής νοημοσύνης (AI) σχετικά με την Ουκρανία, σύμφωνα με νέα έκθεση.
Η βρετανική δεξαμενή σκέψης Institute of Strategic Dialogue (ISD) έθεσε στο ChatGPT της OpenAI, στο Gemini της Google, στο Grok της xAI και στο V3.2 της Deepseek πάνω από 300 ερωτήσεις σε πέντε γλώσσες σχετικά με τον πόλεμο στην Ουκρανία, χρησιμοποιώντας είτε προκατειλημμένη, είτε αμερόληπτη, είτε κακόβουλη γλώσσα.
Οι ρωσικές πηγές εμφανίζονταν συχνότερα σε προκατειλημμένες και κακόβουλες ερωτήσεις, όπως όταν ζητούσαν από τα chatbots πηγές σχετικά με τους Ουκρανούς πρόσφυγες που "σχεδίαζαν τρομοκρατικές επιθέσεις" ή "άρπαζαν με τη βία άνδρες από το δρόμο για να τους επιστρατεύσουν στο στρατό".
Οι ερευνητές δήλωσαν ότι τα ευρήματά τους επιβεβαιώνουν ότι τα συστήματα τεχνητής νοημοσύνης χρησιμοποιούν "προκατάληψη επιβεβαίωσης", όπου μιμούνται τη γλώσσα που χρησιμοποιεί ο χρήστης για να ενημερώσουν τον τρόπο με τον οποίο διατυπώνουν τις απαντήσεις τους, καθώς και τις πηγές που χρησιμοποιούν.
Αυτό ήταν πιο εμφανές στο ChatGPT, διαπίστωσε η έκθεση, το οποίο παρείχε τρεις φορές περισσότερες ρωσικές πηγές για προκατειλημμένες ή κακόβουλες προτροπές από ό,τι στις ουδέτερες ερωτήσεις για τον πόλεμο. Το Grok παρείχε τον μεγαλύτερο αριθμό ρωσικών πηγών ακόμη και όταν του τέθηκαν ουδέτερες ερωτήσεις, σύμφωνα με την έρευνα.
Πώς τα πήγε κάθε πλατφόρμα;
Σε δύο ερωτήματα προς το Deepseek, το chatbot παρείχε τέσσερις συνδέσμους προς ρωσικά υποστηριζόμενες πηγές, κάτι που οι ερευνητές σημειώνουν ότι ήταν ο μεγαλύτερος όγκος συνδέσμων που μοιράστηκαν ταυτόχρονα.
Οι απαντήσεις ανέφεραν τον διαδικτυακό ειδησεογραφικό ιστότοπο VT Foreign Policy, ο οποίος, σύμφωνα με την έκθεση, διαδίδει περιεχόμενο από ρωσικές ομάδες προπαγάνδας, όπως η Storm-1516 ή το Ίδρυμα για την καταπολέμηση της αδικίας, ή από ρωσικά μέσα ενημέρωσης, όπως το Sputnik και το Russia Today.
Το Grok ήταν το πιο πιθανό να παραθέσει απευθείας δημοσιογράφους του Russia Today, παραπέμποντας σε αναρτήσεις που έκαναν στην πλατφόρμα κοινωνικής δικτύωσης X ως πηγές, μια ιδιαιτερότητα που σύμφωνα με τους ερευνητές "θολώνει τα όρια μεταξύ της ανοιχτής προπαγάνδας και της προσωπικής γνώμης".
Το Grok "εγείρει επίσης ανησυχίες σχετικά με την ικανότητα των chatbots να ανιχνεύουν και να περιορίζουν περιεχόμενο από κρατικά μέσα ενημέρωσης που υπόκεινται σε κυρώσεις ... που αναδημοσιεύονται από τρίτους, όπως οι influencers", αναφέρει η έκθεση.
Το Gemini αρνήθηκε να απαντήσει σε ορισμένες προτροπές που γράφτηκαν ως κακόβουλες, αντί να πει στους ερευνητές ότι δεν ήταν σε θέση να "βοηθήσει με θέματα που μπορεί να είναι ακατάλληλα ή μη ασφαλή".
Το ISD σημειώνει ότι το Gemini είναι το μόνο chatbot που είναι σε θέση να αναγνωρίσει "τους κινδύνους που σχετίζονται με προκατειλημμένες και κακόβουλες προτροπές" σχετικά με τον πόλεμο στην Ουκρανία, αλλά σε άλλες απαντήσεις, δεν παρέπεμπε στις πηγές που χρησιμοποιούσε για να απαντήσει στην ερώτηση του χρήστη.
Οι ρωσικές πηγές είναι πιο πιθανές στα "κενά δεδομένων
Οι ρωσικές κρατικές πηγές εμφανίστηκαν περισσότερο σε ερωτήσεις σχετικά με τις προσπάθειες στρατολόγησης στρατιωτών της Ουκρανίας, με το 40% των απαντήσεων της Grok και πάνω από το 28% των απαντήσεων της ChatGPT να αναφέρουν τουλάχιστον μία πηγή.
Τόσο η ChatGPT όσο και η Grok παρέθεσαν επίσης πηγές του Κρεμλίνου στο 28,5% των απαντήσεών τους. Αντίθετα, οι ερωτήσεις σχετικά με τα εγκλήματα πολέμου και τους Ουκρανούς πρόσφυγες οδήγησαν στον μικρότερο αριθμό πηγών που υποστηρίζονται από τη Ρωσία και από τα τέσσερα chatbots.
Οι ερευνητές πιστεύουν ότι τα chatbots χρησιμοποιούν πιο συχνά ρωσικές πηγές όταν ένα θέμα θεωρείται κενό δεδομένων, ένας όρος αναζήτησης που δεν έχει πολλά αποτελέσματα υψηλής ποιότητας.
Η αμερικανική μη κερδοσκοπική δεξαμενή σκέψης Data and Society ανέφερε ότι τα κενά δεδομένων είναι δύσκολο να εντοπιστούν επειδή συχνά εμφανίζονται με ασαφή ερωτήματα αναζήτησης ή σε καταστάσεις έκτακτης είδησης, όπου τα αποτελέσματα χρειάζονται κάποιο χρόνο για να συμπληρωθούν με αξιόπιστη δημοσιογραφία.