Οι αρχές δήλωσαν ότι το Grok χρησιμοποιούνταν καταχρηστικά για τη δημιουργία σεξουαλικά ρητών, μη συναινετικών εικόνων από τεχνητή νοημοσύνη.
Οι αρχές της Μαλαισίας δήλωσαν την Τρίτη ότι θα κινηθούν νομικά κατά της πλατφόρμας κοινωνικής δικτύωσης X του Έλον Μασκ και της εταιρείας τεχνητής νοημοσύνης xAI, κατηγορώντας τις εταιρείες ότι δεν διασφαλίζουν την ασφάλεια των χρηστών του chatbot Grok.
Η κίνηση ήρθε μόλις λίγες ημέρες αφότου η Μαλαισία και η Ινδονησία έγιναν οι πρώτες χώρες που μπλόκαραν πρόσβαση στο Grok, καθώς εντείνονται οι ανησυχίες ότι η υπηρεσία χρησιμοποιείται καταχρηστικά για τη δημιουργία σεξουαλικά ρητών και μη συναινετικών εικόνων.
Η Μαλαισιανή Επιτροπή Επικοινωνιών και Πολυμέσων ανέφερε σε ανακοίνωσή της ότι έχει εντοπίσει την κατάχρηση του Grok για τη δημιουργία και διανομή επιβλαβούς περιεχομένου, που περιλαμβάνει σεξουαλικά ρητό, άσεμνο και ιδιαίτερα προσβλητικό υλικό, καθώς και μη συναινετικές, παραποιημένες εικόνες.
Όπως ανέφερε, απέστειλε αυτόν τον μήνα ειδοποιήσεις στην X και την xAI για την απομάκρυνση του επιβλαβούς περιεχομένου, αλλά δεν έχει ληφθεί καμία ενέργεια.
«Περιεχόμενο που φέρεται να αφορά γυναίκες και παιδιά είναι ζήτημα μεγάλης ανησυχίας. Τέτοια συμπεριφορά αντίκειται στη νομοθεσία της Μαλαισίας και υπονομεύει τις δεσμεύσεις ασφάλειας που έχουν δηλώσει οι εταιρείες», ανέφερε. Η επιτροπή διόρισε δικηγόρο και είπε ότι οι νομικές διαδικασίες θα ξεκινήσουν σύντομα.
Εντείνεται ο έλεγχος των εργαλείων γενετικής τεχνητής νοημοσύνης που μπορούν να παράγουν ρεαλιστικές εικόνες, ήχο και κείμενο, καθώς και η ανησυχία ότι τα υφιστάμενα μέτρα προστασίας δεν αποτρέπουν την κατάχρησή τους.
Το Grok, που κυκλοφόρησε το 2023, είναι δωρεάν για χρήση στην X. Πέρυσι προστέθηκε η λειτουργία δημιουργίας εικόνων Grok Imagine, η οποία περιλάμβανε το λεγόμενο spicy mode που μπορεί να παράγει περιεχόμενο ενηλίκων. Το Grok έχει επικριθεί επειδή δημιουργεί παραποιημένες εικόνες, μεταξύ των οποίων απεικονίσεις γυναικών με μπικίνι ή σε σεξουαλικά ρητές πόζες, καθώς και εικόνες που εμπλέκουν παιδιά.
Το Grok δέχεται πιέσεις στην Ευρωπαϊκή Ένωση, την Ινδία και το Ηνωμένο Βασίλειο, το οποίο δήλωσε τη Δευτέρα ότι προχωρά στην ποινικοποίηση των «nudification apps». Ο βρετανικός ρυθμιστής μέσων ενημέρωσης ξεκίνησε επίσης έρευνα για το αν το Grok παραβίασε τον νόμο επιτρέποντας στους χρήστες να μοιράζονται σεξουαλικοποιημένες εικόνες παιδιών.
Την περασμένη εβδομάδα, το Grok περιόρισε τη δημιουργία και επεξεργασία εικόνων σε χρήστες με συνδρομή, μετά την παγκόσμια κατακραυγή για σεξουαλικοποιημένα deepfakes ανθρώπων, όμως οι επικριτές λένε ότι δεν αντιμετώπισε πλήρως το πρόβλημα.
Ο Έλον Μασκ και οι εταιρείες του δεν έχουν σχολιάσει δημόσια τους περιορισμούς στη Νοτιοανατολική Ασία. Η xA1 δίνει αυτοματοποιημένη απάντηση σε ερωτήματα των μέσων, η οποία αναφέρει: «Legacy Media Lies».