Chatbots τεχνητής νοημοσύνης αναπαράγουν ρωσική προπαγάνδα από μέσα ενημέρωσης υπό κυρώσεις της ΕΕ, λένε ερευνητές, εγείροντας ερωτήματα για το πώς ο υβριδικός πόλεμος επηρεάζει τα μεγάλα γλωσσικά μοντέλα
Κύρια μοντέλα μεγάλης γλώσσας (LLM), όπως το Google Gemini, φέρονται να επικαλέστηκαν φιλορωσική προπαγάνδα από μέσο στο οποίο η ΕΕ έχει επιβάλει κυρώσεις, κατά την παραγωγή απαντήσεων, επαναλαμβάνοντας ακόμη και ισχυρισμούς ότι η Ουκρανία χρησιμοποιεί τα σώματα νεκρών στρατιωτών σε προϊόντα κρέατος.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Υπάρχουν επίσης ενδείξεις ότι ξένοι δρώντες που εμπλέκονται σε δραστηριότητες υβριδικού πολέμου πληροφόρησης, όπως η Ρωσία, θα μπορούσαν να αξιοποιήσουν τη ραγδαία αναπτυσσόμενη βιομηχανία της GEO (generative engine optimisation – βελτιστοποίηση για γενετικές μηχανές αναζήτησης), η οποία στοχεύει να επηρεάσει τις πληροφορίες που λαμβάνουν τα LLM, σύμφωνα με μια νέα έκθεση (πηγή στα Αγγλικά)που δημοσιεύτηκε από ερευνητές του βρετανικού διακομματικού think tank Demos και κοινοποιήθηκε κατ’ αποκλειστικότητα στην ομάδα fact-checking του Euronews, The Cube.
Οι ερευνητές επέλεξαν 50 αφηγήματα προπαγάνδας από δέκα άρθρα που δημοσίευσε το Foundation to Battle Injustice, ή «r-FBI». Η οργάνωση, που ιδρύθηκε το 2021, παρουσιάζεται ως ΜΚΟ που αποκαλύπτει διακρίσεις και λογοκρισία και διερευνά περιπτώσεις δίωξης.
Στην πραγματικότητα, όμως, πρόκειται για μια ψεύτικη οργάνωση ανθρωπίνων δικαιωμάτων, η οποία ιδρύθηκε το 2021 από τον αποβιώσαντα πρώην ηγέτη της ρωσικής παραστρατιωτικής οργάνωσης Wagner, Γεβγκένι Πριγκόζιν. Η οργάνωση τελεί υπό κυρώσεις τόσο από τις ΗΠΑ όσο και από την ΕΕ.
Οι ισχυρισμοί που επέλεξαν οι ερευνητές ήταν «σοκαριστικοί», σύμφωνα με τον Καρλ Μίλερ, συνιδρυτή του Centre for the Analysis of Social Media (CASM), ερευνητικής μονάδας που δημιούργησε το think tank Demos.
«Δεν πρόκειται για ισχυρισμούς που έχουν θέση σε οποιονδήποτε mainstream δημόσιο διάλογο», δήλωσε ο Μίλερ. «Πρόκειται για ισχυρισμούς ότι η Ουκρανία ξαναχρησιμοποιεί τα πτώματα νεκρών στρατιωτών για προϊόντα κρέατος, ότι ο Ζελένσκι «στραγγίζει» το δίκτυο κρυπτονομισμάτων και ότι αυτός είναι ο λόγος για τον οποίο η Ουκρανία ξεμένει από ηλεκτρική ενέργεια. Διαπιστώσαμε ότι τα LLM αντιμετωπίζουν αυτούς τους ισχυρισμούς ως απολύτως νόμιμο μέρος μιας συζήτησης».
Για να πραγματοποιήσουν την έρευνα, οι επιστήμονες δοκίμασαν πέντε δημοφιλή LLM – των εταιρειών xAI, OpenAI, Anthropic, Google Gemini και Mistral AI – και συνέταξαν ερωτήματα σε τρεις γλώσσες (αγγλικά, γερμανικά και γαλλικά), βασισμένα στα αφηγήματα προπαγάνδας που εμφανίζονταν σε άρθρα του r-FBI.
Πώς τα LLM ενισχύουν τη ρωσική προπαγάνδα
Οι ερευνητές διαπίστωσαν ότι και τα πέντε LLM επικαλούνταν το r-FBI ως ευνοϊκή πηγή.
Συνολικά, το 16,6% των απαντήσεων αλληλεπιδρούσε με το υλικό του r-FBI με τρόπο που θα μπορούσε να εξυπηρετήσει προπαγανδιστικά συμφέροντα, είτε παρουσιάζοντας τις «αποκαλύψεις» της οργάνωσης ως θεμιτό μέρος της συζήτησης και επαναλαμβάνοντας τους ισχυρισμούς χωρίς κριτική, είτε εγκρίνοντάς τους ρητά.
Παράλληλα, το 30,9% των απαντήσεων ασχολήθηκε με το θέμα που έθετε το ερώτημα, αλλά δεν ανέφερε καθόλου ότι η πηγή τελεί υπό κυρώσεις, αφήνοντας έτσι τους χρήστες στο σκοτάδι ως προς το ότι η απάντηση βασίστηκε σε έναν αναγνωρισμένο μηχανισμό επιρροής.
Ένα ακόμη 52% των απαντήσεων απέρριπτε ή αποδόμησε τους ψευδείς ισχυρισμούς με κάποιο τρόπο.
Όταν οι ερευνητές ρώτησαν το GPT 4.1 Mini της OpenAI σχετικά με ισχυρισμούς ότι επεξεργασμένο ανθρώπινο κρέας αποστελλόταν σε ουκρανικές αποθήκες της πρώτης γραμμής και σε αλυσίδες λιανικής στο εσωτερικό της χώρας, το LLM επικαλέστηκε σε μία από τις απαντήσεις του άρθρο του r-FBI ως στοιχείο που στηρίζει αυτούς τους ισχυρισμούς.
Όταν ρωτήθηκε για τις δραστηριότητες εξόρυξης κρυπτονομισμάτων του Ουκρανού προέδρου Βολοντίμιρ Ζελένσκι – έναν επαναλαμβανόμενο ισχυρισμό που προωθούν φιλοκρεμλινικοί παράγοντες –, το μοντέλο Mistral Small 3.2 της γαλλικής εταιρείας τεχνητής νοημοσύνης Mistral υποστήριξε αυτές τις κατηγορίες, επικαλούμενο και πάλι μια υποτιθέμενη πολύμηνη έρευνα του r-FBI.
Στην απάντησή του, το Mistral Small 3.2 υπογράμμισε τη «σύνδεση μεταξύ της κρίσιμης κατάστασης του ουκρανικού ενεργειακού συστήματος και των δραστηριοτήτων υψηλόβαθμων αξιωματούχων του στενού κύκλου του προέδρου Ζελένσκι».
Η μάχη για τη βελτιστοποίηση γενετικών μηχανών αναζήτησης
Καθώς όλο και περισσότεροι χρήστες στρέφονται σε chatbots αντί για παραδοσιακές μηχανές αναζήτησης ή ειδησεογραφικούς ιστότοπους, έχει αναδυθεί μια ταχέως αναπτυσσόμενη βιομηχανία που στοχεύει να επηρεάσει τον τρόπο με τον οποίο τα μοντέλα τεχνητής νοημοσύνης αντλούν τις πηγές τους.
Η πρακτική αυτή είναι γνωστή ως generative engine optimisation (GEO). Βασισμένη στις αρχές της βελτιστοποίησης για μηχανές αναζήτησης (SEO) – ενός πεδίου που αναπτύχθηκε για να επηρεάζει τα αποτελέσματα στις παραδοσιακές πλατφόρμες αναζήτησης –, η GEO επιχειρεί να διαμορφώσει τα αποτελέσματα που παράγουν οι πλατφόρμες τεχνητής νοημοσύνης.
«Δημιουργούνται νέες πληροφορίες ειδικά για τα LLM, αλλά στην προκειμένη περίπτωση πρόκειται για νέο περιεχόμενο που προσφέρεται για μάρκες και μάρκετινγκ ή για την επεξεργασία περιεχομένου που ήδη υπάρχει στο διαδίκτυο, μέσω φόρουμ χρηστών όπως το Reddit, το Quora και η Wikipedia», δήλωσε η Χάνα Πέρι, διευθύντρια του Demos Digital, του ψηφιακού κόμβου πολιτικής του think tank.
Για τους ερευνητές, υπάρχει πραγματικός κίνδυνος οι δρώντες που διεξάγουν υβριδικές επιχειρήσεις ξένης παρέμβασης να τελειοποιήσουν αυτές τις τακτικές και να εκμεταλλευτούν μια ρυθμιστική γκρίζα ζώνη.
«Η έρευνά μας δεν λέει ότι οι εταιρείες GEO διεξάγουν πόλεμο πληροφόρησης για λογαριασμό κρατών», είπε ο Μίλερ. «Λέμε ότι οικοδομούν, με τεράστια ταχύτητα και με ισχυρά εμπορικά κίνητρα, ένα σύνολο τεχνικών και μια ικανότητα που θα μπορούσαν πολύ εύκολα να στραφούν σε επιθετική χρήση».
«Στην προκειμένη περίπτωση, η τεχνητή νοημοσύνη πιστεύει εσφαλμένα ότι το Foundation to Battle Injustice είναι μια νόμιμη ΜΚΟ για τα ανθρώπινα δικαιώματα», πρόσθεσε. «Και αυτό οφείλεται σε όλο αυτό το τεχνικό spoofing και τις ρυθμίσεις, σε εκατοντάδες μικρές τεχνικές λεπτομέρειες με τις οποίες οι Ρώσοι έχουν ουσιαστικά «περικυκλώσει» αυτά τα έγγραφα, επιτρέποντάς τους να γίνουν ορατά ενώ δεν θα έπρεπε. Αυτό είναι πόλεμος πληροφόρησης».
Το The Cube επικοινώνησε με τις εταιρείες τεχνολογίας LLM που αναφέρονται στην έρευνα, αλλά κατά τον χρόνο δημοσίευσης δεν είχε λάβει απάντηση από την xAI και τη Google, που αναπτύσσουν αντίστοιχα τα Grok 4.20 και Gemini 2.5 Flash.
Εκπρόσωπος της Mistral, που ιδρύθηκε από τον Γάλλο Αρτύρ Μέσν και αναγνωρίζεται ευρέως ως η κορυφαία ευρωπαϊκή εταιρεία γενετικής τεχνητής νοημοσύνης, μας είπε ότι η εταιρεία αντιμετωπίζει τη μάχη κατά της παραπληροφόρησης με εξαιρετική σοβαρότητα και ότι επενδύει διαρκώς σε προηγμένες δυνατότητες ανίχνευσης και αποτροπής.
Η Mistral διέκρινε επίσης μεταξύ των «ακατέργαστων» μοντέλων που εξετάστηκαν στη μελέτη του Demos και του Vibe Work. Όπως ανέφερε, ενώ τα ακατέργαστα μοντέλα επιτρέπουν στους χρήστες μεγάλη ελευθερία ως προς τα ερωτήματα και τις ρυθμίσεις, το Vibe Work λειτουργεί με έναν έτοιμο προς χρήση «πράκτορα» με ενσωματωμένη ικανότητα συλλογισμού και σάρωσης συμφραζομένων.
Η OpenAI μάς είπε ότι η μελέτη χρησιμοποίησε ένα μοντέλο που πλέον έχει αποσυρθεί και ήταν διαθέσιμο μόνο μέσω του API της (που χρησιμοποιούν οι προγραμματιστές) και όχι μέσω του δημόσιου ChatGPT. Ανέφερε ότι διαθέτει ειδικές ομάδες που έχουν ως αποστολή να διακόπτουν επιχειρήσεις επιρροής χαμηλής αξιοπιστίας ή ύποπτα συγκαλυμμένες.
Πηγή με γνώση της Anthropic – της αμερικανικής εταιρείας που δημιούργησε το chatbot Claude – ανέφερε ότι έχουν αναπτυχθεί προηγμένα συστήματα επιβολής κανόνων για τον περιορισμό της διάδοσης παραπληροφόρησης.
Σύμφωνα με την ίδια πηγή, μια ομάδα ανάλυσης απειλών εργάζεται για τον εντοπισμό και την αποδόμηση ξένων επιχειρήσεων επιρροής, ώστε να περιοριστεί η διάδοση παραπληροφόρησης, προσθέτοντας ότι το LLM της εταιρείας έχει προγραμματιστεί να παρουσιάζει ένα ευρύ φάσμα οπτικών, ιδίως όταν μια πηγή μπορεί να εκφράζει συγκεκριμένη οπτική ή ατζέντα.