Το AI chatbot Grok του Ίλον Μασκ δέχεται αυξανόμενο έλεγχο στην ΕΕ, τη Βρετανία, την Ινδία και τη Γαλλία λόγω κακής χρήσης για τη δημιουργία μη συναινετικών σεξουαλικών εικόνων.
Η Μαλαισία και η Ινδονησία μπλόκαραν το Grok, το chatbot τεχνητής νοημοσύνης (AI) που ανέπτυξε η xAI του Έλον Μασκ, αφού οι αρχές ανέφεραν ότι γινόταν κατάχρησή του για τη δημιουργία σεξουαλικά άσεμνων και μη συναινετικών εικόνων.
Οι χώρες είναι οι πρώτες που απαγορεύουν το εργαλείο γενετικής τεχνητής νοημοσύνης, γεγονός που αντανακλά την αυξανόμενη παγκόσμια ανησυχία ότι μπορεί να παράγει ρεαλιστικές εικόνες, ήχο και κείμενο, την ώρα που οι υφιστάμενες δικλίδες ασφαλείας αποτυγχάνουν να αποτρέψουν την κατάχρησή τους.
Το chatbot Grok, στο οποίο υπάρχει πρόσβαση μέσω της πλατφόρμας κοινωνικής δικτύωσης X του Μασκ, έχει επικριθεί επειδή δημιουργεί παραποιημένες εικόνες, συμπεριλαμβανομένων απεικονίσεων γυναικών με μπικίνι ή σε σεξουαλικά προκλητικές στάσεις, καθώς και εικόνων που αφορούν παιδιά.
Οι ρυθμιστικές αρχές στις δύο χώρες της Νοτιοανατολικής Ασίας δήλωσαν ότι οι υφιστάμενοι έλεγχοι δεν απέτρεπαν τη δημιουργία και τη διάδοση ψεύτικου πορνογραφικού περιεχομένου, ιδίως που αφορά γυναίκες και ανηλίκους. Η κυβέρνηση της Ινδονησίας μπλόκαρε προσωρινά την πρόσβαση στο Grok το Σάββατο, και ακολούθησε η Μαλαισία την Κυριακή.
«Η κυβέρνηση θεωρεί τα μη συναινετικά σεξουαλικά deepfakes ως σοβαρή παραβίαση των ανθρωπίνων δικαιωμάτων, της αξιοπρέπειας και της ασφάλειας των πολιτών στον ψηφιακό χώρο», ανέφερε σε ανακοίνωσή της το Σάββατο η υπουργός Επικοινωνίας και Ψηφιακών Υποθέσεων της Ινδονησίας, Meutya Hafid.
Το υπουργείο ανέφερε ότι το μέτρο αποσκοπεί στην προστασία των γυναικών, των παιδιών και της ευρύτερης κοινωνίας από το ψεύτικο πορνογραφικό περιεχόμενο που παράγεται με χρήση τεχνητής νοημοσύνης.
Τα αρχικά ευρήματα έδειξαν ότι το Grok στερείται αποτελεσματικών δικλίδων ασφαλείας για να αποτρέψει τους χρήστες από τη δημιουργία και τη διανομή πορνογραφικού περιεχομένου βάσει πραγματικών φωτογραφιών κατοίκων της Ινδονησίας, δήλωσε σε ξεχωριστή ανακοίνωση ο Alexander Sabar, γενικός διευθυντής εποπτείας του ψηφιακού χώρου. Τέτοιες πρακτικές, είπε, κινδυνεύουν να παραβιάσουν την ιδιωτικότητα και τα δικαιώματα επί της εικόνας όταν οι φωτογραφίες παραποιούνται ή κοινοποιούνται χωρίς συναίνεση, προκαλώντας ψυχολογική, κοινωνική βλάβη και πλήγμα στη φήμη.
Στην Κουάλα Λουμπούρ, η Μαλαισιανή Επιτροπή Επικοινωνιών και Πολυμέσων διέταξε την Κυριακή προσωρινό περιορισμό στο Grok, έπειτα από αυτό που χαρακτήρισε «κατ’ επανάληψη κακή χρήση» του εργαλείου για τη δημιουργία άσεμνων, σεξουαλικά ρητών και μη συναινετικών παραποιημένων εικόνων, συμπεριλαμβανομένου περιεχομένου που αφορά γυναίκες και ανηλίκους.
Ο ρυθμιστής ανέφερε ότι οι ειδοποιήσεις που απεστάλησαν αυτόν τον μήνα στην X Corp. και την xAI, με αίτημα ισχυρότερες δικλίδες ασφαλείας, έλαβαν απαντήσεις που βασίζονταν κυρίως σε μηχανισμούς αναφοράς από τους χρήστες.
«Ο περιορισμός επιβάλλεται ως προληπτικό και αναλογικό μέτρο, ενώ οι νομικές και κανονιστικές διαδικασίες βρίσκονται σε εξέλιξη», πρόσθεσε, σημειώνοντας ότι η πρόσβαση θα παραμείνει μπλοκαρισμένη έως ότου τεθούν σε εφαρμογή αποτελεσματικές δικλίδες ασφαλείας.
Το Grok, που λανσαρίστηκε το 2023, είναι δωρεάν προς χρήση στο X. Οι χρήστες μπορούν να του υποβάλουν ερωτήσεις στην πλατφόρμα κοινωνικής δικτύωσης και να το κάνουν tag σε αναρτήσεις που έχουν δημιουργήσει οι ίδιοι ή σε απαντήσεις σε αναρτήσεις άλλων χρηστών. Το περασμένο καλοκαίρι, η εταιρεία πρόσθεσε λειτουργία δημιουργίας εικόνων, το Grok Imagine, που περιλάμβανε το αποκαλούμενο «spicy mode», ικανό να παράγει περιεχόμενο για ενηλίκους.
Οι περιορισμοί στη Νοτιοανατολική Ασία έρχονται εν μέσω εντεινόμενου ελέγχου του Grok και αλλού, μεταξύ άλλων στην Ευρωπαϊκή Ένωση, τη Βρετανία, την Ινδία και τη Γαλλία.
Την περασμένη εβδομάδα το Grok περιόρισε τη δημιουργία και την επεξεργασία εικόνων σε πληρωμένους χρήστες, μετά την παγκόσμια κατακραυγή για σεξουαλικοποιημένα deepfakes ανθρώπων, όμως οι επικριτές λένε ότι αυτό δεν αντιμετώπισε πλήρως το πρόβλημα.