Η απόφαση αυτή ήρθε λίγες ώρες αφότου ο δισεκατομμυριούχος δήλωσε ότι δεν γνώριζε για "γυμνές εικόνες ανηλίκων" που έκανε το Grok.
Το chatbot τεχνητής νοημοσύνης Grok του Ίλον Μασκ δεν θα μπορεί να επεξεργάζεται φωτογραφίες ώστε να απεικονίζουν πραγματικά πρόσωπα με αποκαλυπτική ενδυμασία σε περιοχές όπου κάτι τέτοιο είναι παράνομο, σύμφωνα με ανακοίνωση που αναρτήθηκε στην πλατφόρμα κοινωνικής δικτύωσης X.
Η ανακοίνωση, αργά το βράδυ της Τετάρτης, έγινε μετά από τις παγκόσμιες αντιδράσεις για εικόνες γυναικών και παιδιών, με σεξουαλκικό περιεχόμενο, συμπεριλαμβανομένων απαγορεύσεων και προειδοποιήσεων από ορισμένες κυβερνήσεις. Έγινε επίσης λίγες μόλις ώρες αφότου ο Μασκ δήλωσε ότι δεν γνώριζε την ύπαρξη «γυμνών εικόνων ανηλίκων» που είχαν δημιουργηθεί από το Grok.
Η αντίδραση περιλάμβανε και έρευνα που ανακοίνωσε την Τετάρτη η Πολιτεία της Καλιφόρνιας σχετικά με τη διάδοση μη συναινετικού, σεξουαλικά ρητού υλικού που παράγεται με τη χρήση του Grok.
Αρχικά, ερωτήματα των μέσων ενημέρωσης για το ζήτημα αντιμετωπίστηκαν μόνο με την απάντηση: «τα παραδοσιακά μέσα λένε ψέματα».
Η εταιρεία του Μασκ, xAI, δηλώνει πλέον ότι θα εφαρμόζει γεωγραφικό αποκλεισμό περιεχομένου όταν αυτό παραβιάζει τη νομοθεσία σε συγκεκριμένη περιοχή.
«Έχουμε εφαρμόσει τεχνολογικά μέτρα ώστε ο λογαριασμός Grok να μην επιτρέπει την επεξεργασία εικόνων πραγματικών προσώπων με αποκαλυπτική ενδυμασία, όπως μπικίνι, εσώρουχα και άλλα αποκαλυπτικά ρούχα», ανέφερε.
Ο κανόνας ισχύει για όλους τους χρήστες, συμπεριλαμβανομένων των συνδρομητών επί πληρωμή, οι οποίοι έχουν πρόσβαση σε περισσότερες λειτουργίες.
Η xAI έχει επίσης περιορίσει τη δημιουργία ή επεξεργασία εικόνων αποκλειστικά στους συνδρομητές επί πληρωμή, «ώστε να διασφαλίζεται ότι άτομα που επιχειρούν να καταχραστούν τον λογαριασμό Grok για να παραβιάσουν τον νόμο ή τις πολιτικές μας μπορούν να λογοδοτήσουν».
Η λειτουργία «spicy mode» του Grok επέτρεπε στους χρήστες να δημιουργούν ρητό περιεχόμενο, προκαλώντας αντιδράσεις από κυβερνήσεις σε όλο τον κόσμο.
Η Μαλαισία και η Ινδονησία προχώρησαν σε νομικές ενέργειες και μπλόκαραν την πρόσβαση στο Grok. Το Ηνωμένο Βασίλειο και η Ευρωπαϊκή Ένωση διερευνούσαν πιθανές παραβιάσεις της νομοθεσίας για την ασφάλεια στο διαδίκτυο. Η Γαλλία και η Ινδία εξέδωσαν επίσης προειδοποιήσεις, ζητώντας αυστηρότερους ελέγχους. Η Βραζιλία ζήτησε τη διενέργεια έρευνας για την κατάχρηση του Grok.
Οι λειτουργίες επεξεργασίας του Grok «διευκόλυναν τη μαζική παραγωγή μη συναινετικών, ψευδών (deepfake) ερωτικών εικόνων, οι οποίες χρησιμοποιούνται για την παρενόχληση γυναικών και κοριτσιών σε όλο το διαδίκτυο, μεταξύ άλλων μέσω της πλατφόρμας κοινωνικής δικτύωσης X», ανέφερε η ανακοίνωση της Καλιφόρνιας.
«Η χιονοστιβάδα αναφορών που περιγράφουν μη συναινετικό, σεξουαλικά ρητό υλικό το οποίο η xAI παρήγαγε και ανάρτησε στο διαδίκτυο τις τελευταίες εβδομάδες είναι σοκαριστική. Το υλικό αυτό, που απεικονίζει γυναίκες και παιδιά γυμνούς ή σε σεξουαλικά ρητές καταστάσεις, έχει χρησιμοποιηθεί για την παρενόχληση ανθρώπων σε όλο το διαδίκτυο», ανέφερε, επικαλούμενη δήλωση του γενικού εισαγγελέα της Πολιτείας, Ρομπ Μπόντα.
«Έχουμε μηδενική ανοχή στη δημιουργία και διάδοση μη συναινετικών ερωτικών εικόνων μέσω τεχνητής νοημοσύνης ή υλικού σεξουαλικής κακοποίησης παιδιών», δήλωσε.