Οι ειδικοί επισημαίνουν ότι ο κίνδυνος δεν περιορίζεται σε μεμονωμένα κλιπ που επισημαίνονται λανθασμένα, αλλά επεκτείνεται στη συνολική διάδοση ψευδούς περιεχομένου γύρω από ευαίσθητα πολιτικά ζητήματα
Ο γερμανικός δημόσιος ραδιοτηλεοπτικός φορέας ZDF ανακάλεσε στα τέλη Φεβρουαρίου μία ανταποκρίτριά του στις ΗΠΑ, μετά την προβολή βίντεο που είχε δημιουργηθεί με τεχνητή νοημοσύνη σε ρεπορτάζ για πράκτορες της Υπηρεσίας Μετανάστευσης και Τελωνειακής Επιβολής των ΗΠΑ, γνωστής ως US Immigration and Customs Enforcement (ICE).
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Ο σταθμός ζήτησε συγγνώμη για τη χρήση του αποσπάσματος, το οποίο έδειχνε παιδιά να κρατιούνται από τη μητέρα τους τη στιγμή που εκείνη συλλαμβανόταν από πράκτορες της ICE. Το βίντεο έφερε υδατογράφημα της Sora — σαφή ένδειξη ότι είχε δημιουργηθεί με το εργαλείο παραγωγής βίντεο της OpenAI.
Το The Cube, η ομάδα επαλήθευσης του Euronews, διαπίστωσε ότι το συγκεκριμένο βίντεο αποτελεί ένα από χιλιάδες κλιπ με πράκτορες της ICE που έχουν παραχθεί με τεχνητή νοημοσύνη και κατακλύζουν τα μέσα κοινωνικής δικτύωσης, συχνά χωρίς σαφή επισήμανση, συγκεντρώνοντας συνολικά εκατομμύρια προβολές.
Σταθερό μοτίβο
Δεδομένα που κοινοποιήθηκαν στο The Cube από την εταιρεία ανίχνευσης τεχνητής νοημοσύνης TruthScan δείχνουν περισσότερα από 200 σύντομα βίντεο στα οποία πράκτορες της ICE εμφανίζονται να καταδιώκονται από εκπαιδευτικούς, να εμπλέκονται σε καβγάδες σε μπαρ ή ακόμη και να συλλαμβάνονται από το NYPD στο μετρό.
Η TruthScan ανέφερε ότι συνέλεξε περισσότερα από 200 βίντεο από έναν και μόνο λογαριασμό στο Instagram. Τα κλιπ είναι σύντομα, δραματικά και φορτισμένα συναισθηματικά.
Το The Cube διαπίστωσε ότι ο λογαριασμός συνεχίζει να δημοσιεύει μαζικά βίντεο ICE που έχουν δημιουργηθεί με τεχνητή νοημοσύνη, με ορισμένα να συγκεντρώνουν χιλιάδες και άλλα εκατομμύρια προβολές.
Υπάρχουν διάφορες ενδείξεις ότι τα βίντεο δεν είναι αυθεντικά. Σε ένα παράδειγμα, ατμός φαίνεται να αναδύεται μέσα από συμπαγή επιφάνεια κατά τη διάρκεια αντιπαράθεσης μεταξύ πράκτορα της ICE και εργαζόμενου σε καφέ — ένα διακριτικό σημάδι ότι το κλιπ είναι συνθετικό.
Σύμφωνα με την TruthScan, κάθε βίντεο είχε ακριβώς διάρκεια 10 ή 15 δευτερολέπτων, γεγονός που υποδηλώνει έντονα ότι δημιουργήθηκαν με το μοντέλο Sora 2 της OpenAI, το οποίο προσφέρει επιλογές βίντεο 10 ή 15 δευτερολέπτων.
Σε αντίθεση με πολλά βίντεο τεχνητής νοημοσύνης που φέρουν υδατογράφημα, η πλειονότητα αυτών των κλιπ ICE δεν διαθέτει.
Παρομοίως, τον περασμένο Νοέμβριο, το 404 Media ανέφερε ότι βίντεο ICE παραγόμενα με τεχνητή νοημοσύνη, προερχόμενα από λογαριασμό στο Facebook, έγιναν viral, με ένα εξ αυτών να συγκεντρώνει μόνο του τέσσερα εκατομμύρια προβολές. Τα βίντεο έκτοτε αφαιρέθηκαν.
Ευρύτερος κίνδυνος για τη δημόσια εμπιστοσύνη
Οι ειδικοί επισημαίνουν ότι ο κίνδυνος δεν περιορίζεται σε μεμονωμένα κλιπ που επισημαίνονται λανθασμένα, αλλά επεκτείνεται στη συνολική διάδοση ψευδούς περιεχομένου γύρω από ευαίσθητα πολιτικά ζητήματα, γεγονός που μπορεί να υπονομεύσει τη δημόσια εμπιστοσύνη.
«Υπάρχει σημαντικός κίνδυνος για τις συλλογικές αντιδράσεις απέναντι στις ενέργειες των αρχών επιβολής του νόμου, τόσο αρνητικές όσο και θετικές», δήλωσε ο Άρι Άμπελσον, συνιδρυτής της OpenOrigins, εταιρείας πιστοποίησης αυθεντικότητας μέσων που εντοπίζει deepfakes.
«Αποτελεί ανησυχία για τις υπηρεσίες επιβολής του νόμου που επιδιώκουν να διατηρήσουν την εμπιστοσύνη του κοινού, αλλά είναι εξίσου σημαντικό για τους θεσμούς που τις ελέγχουν όταν υπερβαίνουν τα όρια», ανέφερε ο Άμπελσον στο The Cube.
Όπως συνέβη και με τη μετάδοση του ZDF, το περιεχόμενο ICE που δημιουργείται με τεχνητή νοημοσύνη δεν περιορίζεται σε ανώνυμους λογαριασμούς. Ορισμένες φορές φτάνει ακόμη και στα ανώτατα κλιμάκια της δημόσιας εξουσίας.
Τον Ιανουάριο, ο λευκός Οίκος ανήρτησε ψηφιακά αλλοιωμένη εικόνα της ακτιβίστριας και δικηγόρου Νεκίμα Λιβάι Άρμοστρονγκ, μετά τη σύλληψή της σε διαμαρτυρία σχετική με την ICE στη Μινεσότα.
Ανάλυση δείχνει ότι η αλλοιωμένη εικόνα απεικόνιζε την Άρμστρονγκ με πιο σκούρο τόνο δέρματος και εμφανώς να κλαίει σε σύγκριση με την αυθεντική φωτογραφία.
Ο Λευκός Οίκος απάντησε σε ερωτήσεις σχετικά με την αλλοίωση με ανάρτηση του αναπληρωτή διευθυντή επικοινωνίας Κέιλαν Ντορ, ο οποίος έγραψε: «ΑΚΟΜΗ ΜΙΑ ΦΟΡΑ προς όσους αισθάνονται την ανάγκη να υπερασπίζονται αντανακλαστικά δράστες ειδεχθών εγκλημάτων στη χώρα μας, μοιράζομαι το εξής μήνυμα: Η επιβολή του νόμου θα συνεχιστεί. Τα memes θα συνεχιστούν».
Η Άρμστρονγκ δήλωσε ότι ένιωσε «αηδία» για την ανάρτηση της εικόνας από τον Λευκό Οίκο.
Σύμφωνα με τον Άμπελσον, η ανησυχία προκύπτει όταν δεν υπάρχουν σαφή «κιγκλιδώματα» — ή δικλίδες ασφαλείας — που να υποδεικνύουν καθαρά ότι το περιεχόμενο είναι ψευδές.
«Οι πολιτικές γελοιογραφίες χρησιμοποιούνται ανέκαθεν στην πολιτική και αυτά τα βίντεο αξιοποιούνται με παρόμοιο τρόπο», ανέφερε. «Η βασική διαφορά είναι το πόσο υπερρεαλιστικά γίνονται πλέον τα βίντεο».
«Οι κοινωνικοί και πληροφοριακοί χώροι χρειάζονται ένα πράγμα: τη δυνατότητα να αποδεικνύεται ότι μια φωτογραφία ή ένα βίντεο είναι αληθινό, ώστε να μπορούμε να απολαμβάνουμε τα ψεύτικα ως μυθοπλασία και να αντιλαμβανόμαστε τη βαρύτητα των γεγονότων της πραγματικής ζωής», πρόσθεσε.