Το chatbot δέχτηκε πυρά τις τελευταίες δύο εβδομάδες για τη δημιουργία σεξουαλικά προκλητικών απομιμήσεων γυναικών και ανηλίκων.
Το chatbot τεχνητής νοημοσύνης Grok του Ίλον Μασκ εμποδίζει τους περισσότερους χρήστες να δημιουργούν ή να επεξεργάζονται οποιεσδήποτε εικόνες μετά από παγκόσμια αντίδραση που ξέσπασε αφού άρχισε να δημιουργεί σεξουαλικά ψεύτικες εικόνες, κυρίως γυναικών.
Το chatbot, το οποίο είναι προσβάσιμο μέσω της πλατφόρμας κοινωνικής δικτύωσης X του Ίλον Μασκ, έχει τις τελευταίες εβδομάδες χορηγήσει ένα κύμα από αιτήματα κακόβουλων χρηστών, όπως λένε οι ερευνητές, για την τροποποίηση εικόνων, συμπεριλαμβανομένων γυναικών με μπικίνι ή σε σεξουαλικά σαφείς στάσεις.
Οι ερευνητές έχουν προειδοποιήσει ότι σε μερικές περιπτώσεις, ορισμένες εικόνες φαίνεται να απεικονίζουν παιδιά.
Κυβερνήσεις σε όλο τον κόσμο έχουν καταδικάσει την πλατφόρμα και έχουν ξεκινήσει έρευνες σχετικά με την πλατφόρμα.
Την Παρασκευή, η Grok απαντούσε στα αιτήματα τροποποίησης εικόνων με το μήνυμα: "Η δημιουργία και η επεξεργασία εικόνων περιορίζεται επί του παρόντος στους συνδρομητές που πληρώνουν. Μπορείτε να εγγραφείτε συνδρομητής για να ξεκλειδώσετε αυτές τις λειτουργίες".
Ενώ οι αριθμοί συνδρομητών για το Grok δεν είναι διαθέσιμοι δημοσίως, υπήρξε αξιοσημείωτη μείωση στον αριθμό των ρητών deepfakes που παράγει τώρα το Grok σε σύγκριση με ημέρες νωρίτερα.
Μεταξύ των επίσημων κυβερνητικών αντιδράσεων, η Ευρωπαϊκή Ένωση κατακεραύνωσε την Grok για "παράνομη" και "αποκρουστική" συμπεριφορά, ενώ αξιωματούχοι στη Γαλλία, την Ινδία, τη Μαλαισία και ένας Βραζιλιάνος νομοθέτης ζήτησαν έρευνες.
Την Πέμπτη, ο πρωθυπουργός της Βρετανίας Κιρ Στάρμερ απείλησε με μέτρα κατά της X.
"Αυτό είναι ντροπή. Είναι αηδιαστικό. Και δεν πρέπει να γίνει ανεκτό", δήλωσε ο Στάρμερ στο ραδιόφωνο Greatest Hits. "Στο X πρέπει να το καταλάβουν αυτό".
Είπε ότι η ρυθμιστική αρχή της Βρετανίας για τα μέσα ενημέρωσης Ofcom "έχει την πλήρη υποστήριξή μας για τη λήψη μέτρων" και ότι "όλες οι επιλογές" βρίσκονται στο τραπέζι.
"Είναι αηδιαστικό. Η X πρέπει να συμμαζευτεί και να κατεβάσει αυτό το υλικό. Θα αναλάβουμε δράση σε αυτό το θέμα, γιατί απλά δεν είναι ανεκτό".
Τόσο η Ofcom όσο και η ρυθμιστική αρχή της Βρετανίας για την προστασία της ιδιωτικής ζωής δήλωσαν αυτή την εβδομάδα ότι επικοινώνησαν με την X και την εταιρεία τεχνητής νοημοσύνης του Ίλον Μασκ για πληροφορίες σχετικά με τα μέτρα που έχουν λάβει για να συμμορφωθούν με τους βρετανικούς κανονισμούς.
Η χρήση του Grok είναι δωρεάν για τους χρήστες του X, οι οποίοι μπορούν να του κάνουν ερωτήσεις απευθείας στην πλατφόρμα κοινωνικής δικτύωσης. Μπορούν να το επισημάνουν είτε σε αναρτήσεις που έχουν δημιουργήσει οι ίδιοι είτε σε απαντήσεις σε αναρτήσεις άλλων χρηστών.
Το Grok ξεκίνησε τη λειτουργία του το 2023. Το περασμένο καλοκαίρι η εταιρεία πρόσθεσε μια λειτουργία δημιουργίας εικόνων, το Grok Imagine, η οποία περιελάμβανε μια λεγόμενη "πικάντικη λειτουργία" που επέτρεπε στους χρήστες να δημιουργούν περιεχόμενο για ενήλικες.
Το πρόβλημα έχει ενισχυθεί τόσο επειδή ο Ίλον Μασκ προβάλλει το chatbot του ως μια πιο edgier εναλλακτική λύση έναντι των ανταγωνιστών με περισσότερες διασφαλίσεις, όσο και επειδή οι εικόνες του Grok είναι δημόσια ορατές και επομένως μπορούν εύκολα να διαδοθούν στο διαδίκτυο.