Μαχητικές ομάδες άρχισαν να χρησιμοποιούν τεχνητή νοημοσύνη μόλις το ChatGPT έγινε ευρέως διαθέσιμο. Έκτοτε αξιοποιούν όλο και περισσότερο γενετικά εργαλεία για ρεαλιστικές φωτογραφίες και βίντεο.
Καθώς ο υπόλοιπος κόσμος σπεύδει να αξιοποιήσει τη δύναμη της τεχνητής νοημοσύνης (AI), μαχητικές ομάδες επίσης πειραματίζονται με την τεχνολογία, ακόμη κι αν δεν είναι βέβαιες για το πώς ακριβώς να τη χρησιμοποιήσουν.
Για τις εξτρεμιστικές οργανώσεις, η AI θα μπορούσε να αποτελέσει ισχυρό εργαλείο για την προσέλκυση νέων μελών, την παραγωγή ρεαλιστικών deepfake εικόνων και την τελειοποίηση των κυβερνοεπιθέσεών τους, έχουν προειδοποιήσει ειδικοί εθνικής ασφάλειας και υπηρεσίες πληροφοριών.
Κάποιος που ανάρτησε σε ιστοσελίδα φιλοϊσλαμικού Κράτους τον περασμένο μήνα προέτρεψε άλλους υποστηρικτές του ΙΚ να κάνουν την AI μέρος των επιχειρήσεών τους. «Ένα από τα καλύτερα στοιχεία της AI είναι πόσο εύκολο είναι να τη χρησιμοποιείς», έγραψε ο χρήστης στα αγγλικά.
«Ορισμένες υπηρεσίες πληροφοριών ανησυχούν ότι η AI θα συμβάλει στη στρατολόγηση», συνέχισε. «Κάντε, λοιπόν, τους εφιάλτες τους πραγματικότητα».
Το ΙΚ, που πριν από χρόνια είχε καταλάβει εδάφη στο Ιράκ και τη Συρία αλλά πλέον είναι μια αποκεντρωμένη συμμαχία μαχητικών ομάδων με κοινή βίαιη ιδεολογία, είχε αντιληφθεί προ ετών ότι τα μέσα κοινωνικής δικτύωσης μπορούν να είναι ισχυρό εργαλείο για στρατολόγηση και παραπληροφόρηση, οπότε δεν προκαλεί έκπληξη που η οργάνωση δοκιμάζει την AI, λένε ειδικοί εθνικής ασφάλειας.
Για χαλαρά οργανωμένες, με περιορισμένους πόρους εξτρεμιστικές ομάδες, ή ακόμη και για ένα μεμονωμένο κακόβουλο άτομο με σύνδεση στο διαδίκτυο, η AI μπορεί να χρησιμοποιηθεί για μαζική παραγωγή προπαγάνδας ή deepfake υλικού, διευρύνοντας την απήχησή τους και ενισχύοντας την επιρροή τους.
«Για κάθε αντίπαλο, η AI κάνει τα πράγματα πολύ πιο εύκολα», είπε ο Τζον Λαλιμπερτέ, πρώην ερευνητής ευπαθειών στην Υπηρεσία Εθνικής Ασφάλειας και σήμερα διευθύνων σύμβουλος της εταιρείας κυβερνοασφάλειας ClearVector.
«Με την AI, ακόμη και μια μικρή ομάδα που δεν έχει πολλά χρήματα μπορεί να έχει αντίκτυπο».
Πώς πειραματίζονται οι εξτρεμιστικές ομάδες
Οι μαχητικές ομάδες άρχισαν να χρησιμοποιούν την AI μόλις προγράμματα όπως το ChatGPT έγιναν ευρέως προσβάσιμα. Τα τελευταία χρόνια, χρησιμοποιούν όλο και περισσότερο εργαλεία γενετικής τεχνητής νοημοσύνης για να δημιουργούν φωτογραφίες και βίντεο που φαίνονται ρεαλιστικά.
Όταν ενισχύεται από τους αλγορίθμους των κοινωνικών δικτύων, αυτό το ψεύτικο περιεχόμενο μπορεί να βοηθήσει στη στρατολόγηση νέων οπαδών, να μπερδέψει ή να τρομάξει αντιπάλους και να διασπείρει προπαγάνδα σε κλίμακα αδιανόητη μέχρι πριν από λίγα χρόνια.
Τέτοιες ομάδες διέσπειραν πριν από δύο χρόνια ψεύτικες εικόνες από τον πόλεμο Ισραήλ-Χαμάς, με ματωμένα, εγκαταλειμμένα βρέφη σε βομβαρδισμένα κτίρια. Οι εικόνες προκάλεσαν οργή και πόλωση, συσκοτίζοντας τις πραγματικές φρικαλεότητες του πολέμου. Βίαιες ομάδες στη Μέση Ανατολή χρησιμοποίησαν τις φωτογραφίες για να στρατολογήσουν νέα μέλη, όπως και αντισημιτικές ομάδες μίσους στις ΗΠΑ και αλλού.
Κάτι παρόμοιο συνέβη πέρυσι, μετά την επίθεση που ανέλαβε παρακλάδι του ΙΚ και στοίχισε τη ζωή σε σχεδόν 140 ανθρώπους σε συναυλιακό χώρο στη Ρωσία. Τις ημέρες μετά την ένοπλη επίθεση, προπαγανδιστικά βίντεο φτιαγμένα με AI κυκλοφόρησαν ευρέως σε πίνακες συζητήσεων και κοινωνικά δίκτυα, αναζητώντας νέα μέλη.
Σύμφωνα με ερευνητές του SITE Intelligence Group, εταιρείας που παρακολουθεί εξτρεμιστικές δραστηριότητες και έχει ερευνήσει την εξελισσόμενη χρήση της AI από το ΙΚ, η οργάνωση έχει επίσης δημιουργήσει deepfake ηχογραφήσεις με τους ηγέτες της να απαγγέλλουν αποσπάσματα γραφών και έχει χρησιμοποιήσει AI για τη γρήγορη μετάφραση μηνυμάτων σε πολλές γλώσσες.
«Φιλοδοξία» προς το παρόν
Τέτοιες ομάδες υστερούν έναντι της Κίνας, της Ρωσίας ή του Ιράν και εξακολουθούν να θεωρούν τις πιο προηγμένες χρήσεις της AI ως «φιλοδοξία», σύμφωνα με τον Μάρκους Φάουλερ, πρώην πράκτορα της CIA και σήμερα διευθύνοντα σύμβουλο της Darktrace Federal, εταιρείας κυβερνοασφάλειας που συνεργάζεται με την ομοσπονδιακή κυβέρνηση.
Όμως οι κίνδυνοι είναι υπερβολικά μεγάλοι για να αγνοηθούν και πιθανότατα θα αυξηθούν καθώς επεκτείνεται η χρήση φθηνής και ισχυρής AI, είπε.
Οι χάκερ χρησιμοποιούν ήδη συνθετικό ήχο και βίντεο για εκστρατείες phishing, στις οποίες προσπαθούν να υποδυθούν ανώτερα στελέχη επιχειρήσεων ή της κυβέρνησης ώστε να αποκτήσουν πρόσβαση σε ευαίσθητα δίκτυα. Μπορούν επίσης να χρησιμοποιούν την AI για να γράφουν κακόβουλο κώδικα ή να αυτοματοποιούν ορισμένες πτυχές των κυβερνοεπιθέσεων.
Ακόμη πιο ανησυχητικό είναι το ενδεχόμενο μαχητικές ομάδες να επιχειρήσουν να χρησιμοποιήσουν την AI για να βοηθηθούν στην παραγωγή βιολογικών ή χημικών όπλων, αντισταθμίζοντας την έλλειψη τεχνικής εξειδίκευσης. Ο κίνδυνος αυτός περιλήφθηκε στην επικαιροποιημένη Αξιολόγηση Απειλών για την Εσωτερική Ασφάλεια του Υπουργείου Εσωτερικής Ασφάλειας, που δημοσιεύτηκε νωρίτερα φέτος.
«Το ISIS μπήκε νωρίς στο Twitter και βρήκε τρόπους να χρησιμοποιήσει τα μέσα κοινωνικής δικτύωσης προς όφελός του», είπε ο Φάουλερ. «Πάντα αναζητούν το επόμενο πράγμα που θα προσθέσουν στο οπλοστάσιό τους».
Αντιμετωπίζοντας μια αυξανόμενη απειλή
Βουλευτές έχουν καταθέσει αρκετές προτάσεις, λέγοντας ότι υπάρχει επιτακτική ανάγκη για δράση.
Ο Μαρκ Γουόρνερ, γερουσιαστής της Βιρτζίνια και κορυφαίος Δημοκρατικός στην Επιτροπή Πληροφοριών της Γερουσίας, είπε, για παράδειγμα, ότι οι ΗΠΑ πρέπει να διευκολύνουν τους δημιουργούς AI να μοιράζονται πληροφορίες για το πώς τα προϊόντα τους χρησιμοποιούνται από κακόβουλους παράγοντες, είτε είναι εξτρεμιστές, εγκληματίες χάκερ είτε ξένοι κατάσκοποι.
«Είναι προφανές από τα τέλη του 2022, με τη δημόσια διάθεση του ChatGPT, ότι η ίδια γοητεία και ο πειραματισμός με τη γενετική AI που έδειξε το κοινό θα ίσχυαν και για ένα φάσμα κακόβουλων παραγόντων», είπε ο Γουόρνερ.
Κατά τη διάρκεια πρόσφατης ακρόασης για τις εξτρεμιστικές απειλές, τα μέλη της Βουλής έμαθαν ότι το ΙΚ και η αλ Κάιντα έχουν διοργανώσει εκπαιδευτικά εργαστήρια για να βοηθήσουν τους υποστηρικτές τους να μάθουν να χρησιμοποιούν την AI.
Νομοθεσία που εγκρίθηκε από τη Βουλή των Αντιπροσώπων των ΗΠΑ τον περασμένο μήνα θα απαιτεί από τους αρμόδιους για την εσωτερική ασφάλεια να αξιολογούν κάθε χρόνο τους κινδύνους από τέτοιες ομάδες που σχετίζονται με την AI.
Η θωράκιση απέναντι στην κακόβουλη χρήση της AI δεν διαφέρει από την προετοιμασία για πιο συμβατικές επιθέσεις, δήλωσε ο Όγκαστ Πφλούγκερ, βουλευτής του Τέξας και εισηγητής του νομοσχεδίου.
«Οι πολιτικές και οι δυνατότητές μας πρέπει να συμβαδίζουν με τις απειλές του αύριο», είπε.