Μελέτη: Στο TikTok και το YouTube πληθαίνει η χαμηλής ποιότητας, επαναλαμβανόμενη, συχνά βίαιη παιδική ύλη που παράγεται από ΑΙ και μπορεί να βλάπτει τη νοητική ανάπτυξη και να ενισχύει την επιθετικότητα.
Η λεγόμενη «AI slop», ιδίως τα βίντεο κινουμένων σχεδίων με φρούτα που παράγονται από τεχνητή νοημοσύνη, μπορεί να συμβάλει σε σημαντική γνωστική έκπτωση και σε βίαιες τάσεις στα παιδιά, σύμφωνα με νέα έρευνα.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Η ανάλυση του Global Network on Extremism and Technology (GNET) διαπιστώνει ότι τα βίντεο με κινούμενα φρούτα που δημιουργούνται από τεχνητή νοημοσύνη, τα οποία αυτή την περίοδο κατακλύζουν τις ροές περιεχομένου των παιδιών σε όλο τον κόσμο, μπορεί να αποτελούν μέσο μυστικής διάδοσης «βίαιου και εξτρεμιστικού περιεχομένου».
Ο όρος «AI slop» αναφέρεται συγκεκριμένα σε μαζικά παραγόμενο, εξαιρετικά επαναλαμβανόμενο και χαμηλής ποιότητας περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη, συνήθως χωρίς ουσιαστική ανθρώπινη παρέμβαση. Το περιεχόμενο αυτό δίνει προτεραιότητα αποκλειστικά στις προβολές, τα κλικ, την αλληλεπίδραση και τα διαφημιστικά έσοδα και παράγεται με ελάχιστο κόστος.
Έτσι, ένας μόνο δημιουργός μπορεί δυνητικά να παράγει εκατοντάδες τέτοια βίντεο μικρής διάρκειας, πλημμυρίζοντας πολλές πλατφόρμες με τεράστιες ποσότητες περιεχομένου. Καθώς πολλές πλατφόρμες κοινωνικής δικτύωσης επιβραβεύουν τη διαρκή δραστηριότητα και τις συνεχείς αναρτήσεις, αυτή η στρατηγική μπορεί να αποδειχθεί ιδιαίτερα αποτελεσματική για την πρόσβαση σε εκατομμύρια παιδιά σε όλο τον κόσμο.
Αυτό μπορεί να συμβάλει σε γνωστική έκπτωση ή σε αυτό που περιγράφεται ως «brain rot», δηλαδή στις πολιτισμικές και ψυχολογικές συνέπειες της υπερβολικής κατανάλωσης γρήγορου, υπερδιεγερτικού και εσκεμμένα κενoύ νοήματος ψηφιακού περιεχομένου, το οποίο συχνά είναι παράλογο και αξιοποιεί συνήθειες όπως το ατελείωτο scroll και η διαρκής αναζήτηση στιγμιαίων «δόσεων» ντοπαμίνης.
Η εμφάνιση φθηνών, εύχρηστων εφαρμογών που μαθαίνονται εύκολα, όπως οι PixVerse, VeoE.ai, Media.io και Sora, έχει επίσης συμβάλει στην απότομη αύξηση αυτού του είδους περιεχομένου που παράγεται από τεχνητή νοημοσύνη τα τελευταία χρόνια.
AI 'slop': πώς συμβάλλει στη διαδικτυακή ριζοσπαστικοποίηση
Η «AI slop» μπορεί να διασπείρει συγκαλυμμένα ριζοσπαστικοποιητικό διαδικτυακό περιεχόμενο μέσω βίντεο που αρχικά μοιάζουν ακίνδυνα, παράλογα ή ακόμη και αστεία, όπως τα βίντεο με κινούμενα φρούτα και λαχανικά.
Το συγκεκριμένο περιεχόμενο συχνά αναπτύσσει δραματικές αφηγήσεις με έρωτες, οικογενειακές συγκρούσεις, προδοσία και απιστία, μεταξύ άλλων θεματικών, τις οποίες ενσαρκώνουν φαινομενικά αθώα κινούμενα φρούτα. Μπορεί να παρουσιάζει έντονη επιθετικότητα και συναισθηματική βία και να είναι εξαιρετικά υπερδιεγερτικό για τις εύπλαστες ηλικίες μέσω των αφηγηματικών του μοτίβων.
Σε πολλές περιπτώσεις, τα βίντεο αυτά αξιοποιούνται επίσης για να εξυμνήσουν, να «γιορτάσουν» και να διαδώσουν βίαιο εξτρεμισμό και τρομοκρατικές επιθέσεις, μέσα από βίντεο με έντονο ρυθμό και αισθητική που πατούν πάνω σε viral διαδικτυακές τάσεις και θέματα.
Τα αιματηρά βίντεο με φρούτα και λαχανικά που δημιουργούνται από ΑΙ συχνά περιλαμβάνουν βασανιστήρια, ακραίο ακρωτηριασμό και υπερ-ρεαλιστική βία, στοιχεία που μπορούν να οδηγήσουν σε σημαντική απευαισθητοποίηση του κοινού, καθώς κρύβονται πίσω από την οικειότητα των συγκεκριμένων κινούμενων χαρακτήρων.
Μπορεί επίσης να απεικονίζουν δολοφονίες, περιστατικά με μαζικά θύματα και σκληρούς φόνους, όπως για παράδειγμα ένα φρούτο που δολοφονεί ένα άλλο με όπλο.
Σε πολλές περιπτώσεις, τα βίντεο εμφανίζουν χαρακτηριστικά αντίστοιχα με αυτά εξτρεμιστικών οργανώσεων που προωθούν ακροδεξιές, μηδενιστικές ή βίαιες ιδεολογίες, καθώς και εγκληματικών καρτέλ.
Για παράδειγμα, ένας δημοφιλής χαρακτήρας, ο Carrot Khalifah, εμφανίζεται συχνά σε βίντεο να απευθύνεται σε έναν στρατό λέγοντας ότι «το Κράτος του Καρότου θα αναδυθεί ξανά», φράση που παραπέμπει ευθέως στη γνωστή ιδεολογία και προπαγάνδα του Ισλαμικού Κράτους (IS).
Παρότι πλατφόρμες όπως το TikTok διαθέτουν πολιτικές για την αποτροπή της διάδοσης τόσο ακραία βίαιου περιεχομένου, αυτές δεν είναι αλάνθαστες, καθώς οι γεννήτριες ΑΙ μπορούν να παρακάμπτουν τους περιορισμούς και να κρύβονται πίσω από φαινομενικά αθώο υλικό.