Αυτές οι χώρες επιβάλλουν περιορισμούς ή στρέφονται κατά του Grok για deepfakes σεξουαλικού περιεχομένου χωρίς συναίνεση
Κυβερνήσεις σε όλο τον κόσμο κινούνται ταχύτατα για να βάλουν φρένο στο Grok, το chatbot τεχνητής νοημοσύνης (AI) του Ίλον Μασκ, εν μέσω αυξανόμενων ανησυχιών ότι παράγει ψευδείς εικόνες με σεξουαλικό περιεχόμενο.
Το περασμένο καλοκαίρι, η xAI, η εταιρεία που λειτουργεί το Grok, πρόσθεσε μια λειτουργία δημιουργίας εικόνων που περιελάμβανε το λεγόμενο «spicy mode» ικανή να παράγει περιεχόμενο για ενηλίκους.
Τις τελευταίες εβδομάδες, το Grok ανταποκρίθηκε σε προτροπές χρηστών να «γδύσει» εικόνες γυναικών και να τις ντύσει με μπικίνι, δημιουργώντας deepfakes που παράγονται από AI χωρίς κανένα μέτρο προστασίας.
Από ολικούς αποκλεισμούς στη Νοτιοανατολική Ασία μέχρι ποινικές έρευνες και ρυθμιστικές προειδοποιήσεις στην Ευρώπη και την Αυστραλία, οι αρχές λένε ότι τα υπάρχοντα μέτρα προστασίας αποτυγχάνουν.
Αυτές είναι οι χώρες που έχουν προχωρήσει σε απαγορεύσεις ή έχουν εκδώσει προειδοποιήσεις για το Grok.
Ποιες χώρες έχουν απαγορεύσει το Grok;
Ινδονησία
Η Ινδονησία ήταν η πρώτη χώρα που μπλόκαρε προσωρινά το Grok για να προστατεύσει τις γυναίκες, τα παιδιά και το ευρύτερο κοινό από ψεύτικο πορνογραφικό περιεχόμενο που δημιουργείται με τη χρήση AI.
«Η κυβέρνηση θεωρεί τα σεξουαλικά deepfakes χωρίς συναίνεση ως σοβαρή παραβίαση των ανθρωπίνων δικαιωμάτων, της αξιοπρέπειας και της ασφάλειας των πολιτών στον ψηφιακό χώρο», δήλωσε σε ανακοίνωση το Σάββατο η υπουργός Επικοινωνιών και Ψηφιακών Υποθέσεων της Ινδονησίας, Meutya Hafid.
Οι περιορισμοί στο Grok αποτελούν «προληπτικό» μέτρο ενώ οι αρχές αξιολογούν αν η πλατφόρμα είναι ασφαλής, ανακοίνωσε η αστυνομία της Ινδονησίας.
Τα αρχικά ευρήματα έδειξαν ότι το Grok δεν διαθέτει αποτελεσματικές ασφαλιστικές δικλείδες για να αποτρέψει τη δημιουργία και διανομή πορνογραφικού περιεχομένου βάσει πραγματικών φωτογραφιών κατοίκων της Ινδονησίας, σύμφωνα με ανακοίνωση του Alexander Sabar, γενικού διευθυντή εποπτείας του ψηφιακού χώρου της χώρας.
Ο Sabar είπε ότι τέτοιες πρακτικές ενέχουν κίνδυνο παραβίασης της ιδιωτικότητας και των δικαιωμάτων επί της εικόνας όταν οι φωτογραφίες παραποιούνται ή κοινοποιούνται χωρίς συναίνεση, προκαλώντας ψυχολογική, κοινωνική και βλάβη στη φήμη.
Μαλαισία
Η Μαλαισιανή Επιτροπή Επικοινωνιών και Πολυμέσων (MCMC) διέταξε την Κυριακή προσωρινή απαγόρευση του Grok, έπειτα από αυτό που χαρακτήρισε «επαναλαμβανόμενη κατάχρηση» του εργαλείου για τη δημιουργία άσεμνων, σεξουαλικών και χωρίς συναίνεση παραποιημένων εικόνων.
Ο ρυθμιστής είπε ότι απέστειλε αυτόν τον μήνα δύο ειδοποιήσεις στην X και την xAI ζητώντας ισχυρότερες δικλείδες ασφαλείας. Στις απαντήσεις της, η X ανέφερε ότι το Grok βασίζεται κυρίως στους χρήστες για την υποβολή καταγγελιών σχετικά με καταχρηστικό περιεχόμενο.
Η MCMC κατέληξε ότι η X «απέτυχε να αντιμετωπίσει τους εγγενείς κινδύνους» στον σχεδιασμό και τη λειτουργία της πλατφόρμας AI της, κάτι που, όπως είπε, είναι ανεπαρκές σύμφωνα με το μαλαισιανό δίκαιο.
«Ο περιορισμός επιβάλλεται ως προληπτικό και αναλογικό μέτρο όσο βρίσκονται σε εξέλιξη οι νομικές και ρυθμιστικές διαδικασίες», ανέφερε, προσθέτοντας ότι η πρόσβαση θα παραμείνει μπλοκαρισμένη έως ότου τεθούν σε ισχύ αποτελεσματικές δικλείδες.
Πώς αντέδρασαν άλλες χώρες;
Ευρωπαϊκή Ένωση
Η Ευρωπαϊκή Επιτροπή ανακοίνωσε ότι εξετάζει περιπτώσεις σεξουαλικών εικόνων νεαρών κοριτσιών που δημιουργήθηκαν από το Grok.
«Μπορώ να επιβεβαιώσω από αυτό το βήμα ότι η Επιτροπή εξετάζει επίσης πολύ σοβαρά το ζήτημα», δήλωσε την περασμένη εβδομάδα σε δημοσιογράφους στις Βρυξέλλες εκπρόσωπος της Επιτροπής.
Το Reuters μετέδωσε ότι η Επιτροπή διέταξε την X να διατηρήσει όλα τα έγγραφα που σχετίζονται με το Grok έως το τέλος του έτους, ώστε η Ένωση να αξιολογήσει εάν συμμορφώνεται με τους κανόνες της ΕΕ.
Εκπρόσωπος της Επιτροπής είπε στο Reuters ότι αυτό δεν σημαίνει πως έχει ξεκινήσει επίσημη έρευνα.
Η Ούρσουλα φον ντερ Λάιεν, πρόεδρος της Ευρωπαϊκής Επιτροπής, δήλωσε σε συνέντευξή της στην ιταλική εφημερίδα Corriere della Sera ότι ήταν «αγανακτισμένη που μια τεχνολογική πλατφόρμα επιτρέπει στους χρήστες να γδύνουν ψηφιακά γυναίκες και παιδιά στο διαδίκτυο».
Χωρίς να κατονομάσει άμεσα την X ή το Grok, η φον ντερ Λάιεν είπε ότι η Επιτροπή «δεν θα αναθέσει την προστασία των παιδιών και τη συναίνεση στη Σίλικον Βάλεϊ. Αν δεν δράσουν εκείνοι, θα δράσουμε εμείς».
Ηνωμένο Βασίλειο
Η ρυθμιστική αρχή μέσων του Ηνωμένου Βασιλείου ξεκίνησε έρευνα για την X, τη μητρική εταιρεία της xAI, και την πλατφόρμα κοινωνικής δικτύωσης του Μασκ, σχετικά με τη χρήση του Grok για τη δημιουργία σεξουαλικά ρητών και χωρίς συναίνεση εικόνων.
Η Ofcom ανέφερε σε ανακοίνωσή της ότι υπήρξαν «εξαιρετικά ανησυχητικές αναφορές» πως το chatbot χρησιμοποιήθηκε για τη δημιουργία και κοινοποίηση γυμνών εικόνων ανθρώπων, καθώς και «σεξουαλικοποιημένων εικόνων παιδιών».
Η ρυθμιστική αρχή θα μπορούσε επίσης να ζητήσει δικαστική εντολή ώστε οι πάροχοι διαδικτύου να μπλοκάρουν την πρόσβαση στο Grok, εάν η X δεν συμμορφωθεί με τις απαιτήσεις της Ofcom.
Η X κινδυνεύει με πρόστιμο έως και 10% των παγκόσμιων εσόδων της ή 18 εκατ. λίρες (20 εκατ. ευρώ).
_«_Το περιεχόμενο που έχει κυκλοφορήσει στην X είναι αποκρουστικό. Δεν αποτελεί απλώς προσβολή για την ευπρεπή κοινωνία, είναι παράνομο», δήλωσε στο κοινοβούλιο η υπουργός Τεχνολογίας, Λιζ Κένταλ.
Γαλλία
Η Εισαγγελία του Παρισιού διεύρυνε στις αρχές Ιανουαρίου έρευνα για την X ώστε να συμπεριλάβει και το Grok, όπως μετέδωσαν.
Η αρχική έρευνα, που βρίσκεται σε εξέλιξη από τον περασμένο Ιούλιο, εστίαζε σε ύποπτη οργανωμένη παρέμβαση στα πληροφοριακά συστήματα της X και στην παράνομη εξαγωγή δεδομένων.
Η απόφαση για διεύρυνση της έρευνας ελήφθη αυτή την εβδομάδα, αφού πέντε πολιτικοί κατηγόρησαν την πλατφόρμα ότι δημιουργεί και διαδίδει ψευδή, βίντεο με σεξουαλικό περιεχόμενο που αφορά ανηλίκους, σύμφωνα με τη γαλλική εφημερίδα Le Parisien.
Σύμφωνα με το δημοσίευμα, η Ρυθμιστική Αρχή Οπτικοακουστικών και Ψηφιακών Επικοινωνιών της Γαλλίας (Arcom) διερευνά πιθανές παραβιάσεις από την X του Νόμου για τις Ψηφιακές Υπηρεσίες, του ευρωπαϊκού κανονιστικού πλαισίου για τις ψηφιακές υπηρεσίες.
Ιταλία
Στις 8 Ιανουαρίου, η ιταλική Αρχή Προστασίας Δεδομένων (Garante) προειδοποίησε ότι όσοι χρησιμοποιούν το Grok ή άλλες πλατφόρμες AI για να αφαιρούν τα ρούχα από ανθρώπους, καθώς και όσοι διανέμουν αυτές τις εικόνες, διατρέχουν τον κίνδυνο ποινικών διώξεων.
Η χρήση των εργαλείων χωρίς την άδεια του εικονιζόμενου μπορεί να θεωρηθεί «σοβαρή παραβίαση των θεμελιωδών δικαιωμάτων και ελευθεριών των εμπλεκόμενων προσώπων», ανέφερε η Αρχή.
Η Αρχή υπενθύμισε επίσης στο Grok και σε άλλους παρόχους AI ότι οφείλουν να σχεδιάζουν, να αναπτύσσουν και να διαθέτουν προϊόντα που συμμορφώνονται με τους κανονισμούς περί απορρήτου.
Ο ιταλικός ρυθμιστής ανέφερε ότι συνεργάζεται με την Ιρλανδική Επιτροπή Προστασίας Δεδομένων, την αρμόδια αρχή για την προστασία της ιδιωτικότητας στην περίπτωση της X, καθώς τα κεντρικά της εταιρείας βρίσκονται στην Ιρλανδία.
Τον Οκτώβριο, η ιταλική αρχή μπλόκαρε το ClothOff, μια ακόμη πλατφόρμα τεχνητής νοημοσύνης που δημιουργεί εικόνες με σεξουαλικό περιεχόμενο. Η πλατφόρμα επιτρέπει σε οποιονδήποτε, συμπεριλαμβανομένων ανηλίκων, να δημιουργεί φωτογραφίες και βίντεο που απεικονίζουν πραγματικούς ανθρώπους γυμνούς ή σε σεξουαλικές στάσεις.
Τον Σεπτέμβριο, η Ιταλία πρόσθεσε νέο άρθροστον ποινικό της κώδικα για να τιμωρεί με έως και πέντε χρόνια φυλάκισης όσους διακινούν deepfakes που δημιουργούνται από AI.
Γερμανία
Η Γερμανία δήλωσε ότι σύντομα θα παρουσιάσει μια «συγκεκριμένη πρόταση» για νέο νόμο κατά της ψηφιακής βίας.
Η Άννα-Λένα Μπέκφελντ, εκπρόσωπος του γερμανικού υπουργείου Δικαιοσύνης, δήλωσε σε συνέντευξη Τύπου τον Ιανουάριο ότι ο υπό διαμόρφωση νόμος για την ψηφιακή βία θα αποτελέσει έναν τρόπο στήριξης των θυμάτων αυτού του «είδους ψηφιακής βίας», καθιστώντας «ευκολότερο για αυτά να κινηθούν άμεσα κατά παραβιάσεων των δικαιωμάτων τους στο διαδίκτυο».
Ερωτηθείσα ειδικά για το Grok, η Μπέκφελντ είπε ότι είναι «απαράδεκτο να χρησιμοποιούνται χειραγωγήσεις σε μεγάλη κλίμακα για συστηματικές παραβιάσεις των προσωπικών δικαιωμάτων».
«Γι’ αυτό θέλουμε να ληφθούν ισχυρότερα μέτρα εναντίον αυτού μέσω του ποινικού δικαίου», πρόσθεσε.
Το 2025, τα τρία βασικά κόμματα της Γερμανίας συμφώνησαν να μεταρρυθμίσουν το δίκαιο του κυβερνοεγκλήματος και να κλείσουν τα «παραθυράκια» στον ποινικό κώδικα για εγκλήματα που σχετίζονται με την τεχνητή νοημοσύνη, όπως οι σεξουαλικές εικόνες που δημιουργούνται από AI, σύμφωνα με τη συμφωνία συνασπισμού.
Αυστραλία
Τον Ιανουάριο, το γραφείο του Επιτρόπου eSafety της Αυστραλίας ανέφερε ότι είχε λάβει μικρό αλλά αυξανόμενο αριθμό αναφορών τις τελευταίες εβδομάδες σχετικά με το σεξουαλικό περιεχόμενο AI του Grok.
Το γραφείο του επιτρόπου ανέφερε ότι θα κάνει χρήση των αρμοδιοτήτων του, όπως μια ειδοποίηση αφαίρεσης, που μπορεί να διατάξει ιστότοπο κοινωνικής δικτύωσης να κατεβάσει προβληματικό περιεχόμενο, εάν κάποιο από αυτό παραβιάζει τον Νόμο για την Ηλεκτρονική Ασφάλεια της χώρας.
Το γραφείο έχει ήδη ζητήσει περισσότερες πληροφορίες από την X σχετικά με την κατάχρηση της σεξουαλικής υπηρεσίας του Grok και για να αξιολογήσει αν συμμορφώνεται με τον νέο νόμο της Αυστραλίας για τα μέσα κοινωνικής δικτύωσης.
Υπενθύμισε επίσης στο Grok ότι, από τις 9 Μαρτίου, οι διαδικτυακές υπηρεσίες, συμπεριλαμβανομένων των εταιρειών AI, θα πρέπει να μπλοκάρουν την πρόσβαση των παιδιών σε σεξουαλικό, βίαιο ή επιβλαβές περιεχόμενο.