Η επίσημη έρευνα για το X ακολουθεί την κατακραυγή για την αποτυχία της πλατφόρμας να αποτρέψει τη δημιουργία εικόνων σεξουαλικού περιεχομένου πραγματικών ανθρώπων - συμπεριλαμβανομένων παιδιών.
Η Ευρωπαϊκή Επιτροπή ξεκίνησε επίσημη έρευνα κατά του Grok, του chatbot της Τεχνητής Νοημοσύνης της πλατφόρμας Χ του Ιλον Μασκ σχετικά με την διασπορά παράνομου περιεχομένου όπως κατασκευασμένες σεξουαλικού χαρακτήρα εικόνες στην Ευρωπαϊκή Ενωση κατά παραβίαση της σχετικής ευρωπαϊκής νομοθεσίας και συγκεκριμένα της Digital Services Act, ανακοίνωσε το εκτελεστικό όργανο της Ενωσης.
Η μαζική παραγωγή και διοχέτευση χιλιάδων σεξουαλικού περιεχομένου εικόνων γυναικών και παιδιών από το xAI Grok του Ιλον Μασκ έχει κινητοποιήσει εδώ και εβδομάδες τις ευρωπαϊκές ρυθμιστικές αρχές.
Η έρευνα θα εξετάσει αν το Χ έχει συμμορφωθεί με τις υποχρεώσεις του βάσει της ευρωπαϊκής ψηφιακής νομοθεσίας, περιλαμβανομένων των απαιτήσεων για τον περιορισμό των κινδύνων, την διαχείριση του περιεχομένου και την προστασία των θεμελιωδών δικαιωμάτων, είχε ανακοινώσει προηγουμένως η ιρλανδή ευρωβουλευτής Ρετζίνα Ντόχερτι χαιρετίζοντας την απόφαση της Κομισιόν να εκκινήσει επίσημη έρευνα.
«Οταν εμφανίζονται αξιόπιστες πληροφορίες ότι συστήματα της Τεχνητής Νοημοσύνης χρησιμοποιούνται για να βλάψουν γυναίκες και παιδιά, είναι σημαντικό η ευρωπαϊκή νομοθεσία να εξετάζει και να επιβάλλεται χωρίς καθυστέρηση», ανέφερε στην ανακοίνωσή της η Ρετζίνα Ντόχερτι.
Εάν διαπιστωθεί ότι το X παραβίασε τους κανόνες της ΕΕ για τις διαδικτυακές πλατφόρμες σύμφωνα με τον νόμο του μπλοκ για τις ψηφιακές υπηρεσίες (DSA), η Επιτροπή θα μπορούσε να επιβάλει πρόστιμο στην εταιρεία έως και 6% του παγκόσμιου ετήσιου κύκλου εργασιών της.
Η ΕΕ είχε επιβάλει στις αρχές Δεκεμβρίου πρόστιμο ύψους 120 εκατομμυρίων ευρώ στο X για παραβίαση του κανονισμού για τις ψηφιακές υπηρεσίες (DSA), παρά τις επανειλημμένες απειλές του Ντόναλντ Τραμπ, ο οποίος κατηγορεί την Ευρωπαϊκή Ένωση ότι βάζει στο στόχαστρο τους τεχνολογικούς κολοσσούς.
Στις αρχές του Ιανουαρίου, η Ευρωπαϊκή Επιτροπή ανακοίνωσε ότι οι εικόνες γυμνών γυναικών και παιδιών που διακινούνται στην πλατφόρμα X είναι παράνομες και αποτρόπαιες ενώνοντας την φωνή της με την χορεία των αξιωματούχων σε όλον τον κόσμο που καταδικάζουν την σωρεία κρουσμάτων δημοσίευσης μη συναινετικού οπτικού υλικού στην πλατφόρμα.
Παράλληλα, ανακοίνωσε την επιβολή συντηρητικών μέτρων μετά το σκάνδαλο των σεξουαλικού χαρακτήρα εικόνων ανηλίκων που δημιουργήθηκαν από το Grok δίνοντας εντολή στην πλατφόρμα X του Ιλον Μασκ να διατηρήσει όλα τα εσωτερικά έγγραφα και δεδομένα που σχετίζονται με το chatbot τεχνητής νοημοσύνης Grok έως το τέλος του 2026.
Ο Ίλον Μασκ διακωμώδησε την κριτική που του ασκήθηκε μέσω ανάρτησης στον λογαριασμό του X.
Νωρίτερα αυτό το μήνα, καθώς η παγκόσμια κατακραυγή για τη λειτουργία αυτή μεγάλωνε, εκπρόσωπος της Επιτροπής καταδίκασε αυτή τη λειτουργία με τον πιο έντονο τρόπο.
"Αυτό δεν είναι 'πικάντικο'", δήλωσαν. "Αυτό είναι παράνομο. Αυτό είναι αποκρουστικό. Αυτό είναι αηδιαστικό. Αυτό δεν έχει καμία θέση στην Ευρώπη".
Μετά την κατακραυγή, το X εφάρμοσε τελικά μέτρα για να εμποδίσει το Grok να επιτρέπει την επεξεργασία εικόνων πραγματικών ανθρώπων με περιορισμούς που ισχύουν για όλους τους χρήστες, συμπεριλαμβανομένων των συνδρομητών επί πληρωμή.
Ανακοίνωσε επίσης ότι οι σεξουαλικές εικόνες παιδιών που είχαν τροποποιηθεί από το Grok είχαν αφαιρεθεί από την πλατφόρμα και ότι οι χρήστες που συμμετείχαν στη δημιουργία τους είχαν απαγορευτεί.
"Αναλαμβάνουμε δράση κατά του παράνομου περιεχομένου στο X, συμπεριλαμβανομένου του υλικού σεξουαλικής κακοποίησης παιδιών (CSAM), αφαιρώντας το, αναστέλλοντας μόνιμα τους λογαριασμούς και συνεργαζόμενοι με τις τοπικές κυβερνήσεις και τις διωκτικές αρχές, όπως είναι απαραίτητο", ανέφερε ο λογαριασμός X Safety.
Δεν είναι η πρώτη φορά που το Grok βρίσκεται υπό έλεγχο για πιθανές παραβιάσεις της ευρωπαϊκής νομοθεσίας. Τον περασμένο Νοέμβριο, το AI chatbot δημιούργησε περιεχόμενο άρνησης του Ολοκαυτώματος.
Έρευνες σχετικά με το chatbot της πλατφόρμας βρίσκονται σε εξέλιξη στη Γαλλία, το Ηνωμένο Βασίλειο και τη Γερμανία, καθώς και στην Αυστραλία. Το Grok έχει απαγορευτεί εντελώς στην Ινδονησία και τη Μαλαισία.
Στις 12 Ιανουαρίου, η Ofcom, η βρετανική ρυθμιστική αρχή για την ασφάλεια στο Ιντερνετ, ανακοίνωσε σήμερα την έναρξη επίσημης έρευνας κατά της πλατφόρμας Χ σχετικά με τις σεξουαλικού χαρακτήρα εικόνες που αναρτήθηκαν από το Grok, το chatbot Τεχνητής Νοημοσύνης της πλατφόρμας του Ιλον Μασκ.
«Πολύ ανησυχητικές αναφορές κάνουν λόγο για την χρησιμοποίηση του Grok AI στο Χ «για την δημιουργία εικόνων γυμνών ανθρώπων - πράγμα που δύναται να συνιστά προσβολή δημόσιας αιδούς ή πορνογραφία - καθώς και σεξουαλικού χαρακτήρα εικόνων παιδιών πράγμα που δύναται να συνιστά υλικό παιδικής πορνογραφίας», σύμφωνα με την ανακοίνωση που εξέδωσε τότε η Ofcom.
Στις αρχές του Ιανουαρίου, η βρετανική κυβέρνηση είχε καλέσει το X να βρει «επειγόντως» λύση για να αποτραπεί η διασπορά πλαστών, «εξοργιστικών» εικόνων γυμνών γυναικών και που δημιουργήθηκαν από το Grok.
Η Επιτροπή δήλωσε ότι είχε αποστείλει αίτημα παροχής πληροφοριών στο πλαίσιο της DSA και ότι εξακολουθεί να αναλύει την απάντηση.