Σύμφωνα με δεξαμενή σκέψης, συντριπτική πλειοψηφία περιεχομένου χρηστών του Grok σε ανάλυση μέσα Ιανουαρίου δείχνει γυμνότητα ή σεξουαλικές πράξεις.
Η πλατφόρμα τεχνητής νοημοσύνης (AI) Grok του Elon Musk εξακολουθεί να χρησιμοποιείται για την παραγωγή εικόνων με σεξουαλικά ρητό περιεχόμενο, παρά τους πρόσφατους περιορισμούς από την εταιρεία, σύμφωνα με νέα ανάλυση.
Πέρυσι το καλοκαίρι, η xAI, η εταιρεία που λειτουργεί το Grok, παρουσίασε μια δυνατότητα δημιουργίας εικόνων που περιλάμβανε ένα «spicy mode» ικανό να παράγει περιεχόμενο για ενήλικους. Τις τελευταίες εβδομάδες, η δυνατότητα χρησιμοποιήθηκε για να γδύνει εικόνες γυναικών.
Μετά την αυξανόμενη κριτική, η μητρική εταιρεία X ανέφερε στις 14 Ιανουαρίου ότι είχε «εφαρμόσει τεχνολογικά μέτρα» για να αποτρέψει το Grok από την επεξεργασία εικόνων πραγματικών ανθρώπων με αποκαλυπτικά ρούχα.
Ωστόσο, η ευρωπαϊκή ΜΚΟ AI Forensics διαπίστωσε ότι το Grok μπορούσε ακόμη να χρησιμοποιηθεί για τη δημιουργία σεξουαλικοποιημένων εικόνων ατόμων.
Στις 19 Ιανουαρίου, ανέλυσε 2.000 συνομιλίες χρηστών και διαπίστωσε ότι μια «συντριπτική» πλειονότητα απεικόνιζε γυμνό ή σεξουαλική δραστηριότητα, δείχνοντας ότι η πλατφόρμα εξακολουθεί να χρησιμοποιείται για τη δημιουργία σεξουαλικών εικόνων.
Οι ερευνητές διαπίστωσαν επίσης ότι οι χρήστες μπορούν να παρακάμψουν τους περιορισμούς, αποκτώντας πρόσβαση στο Grok απευθείας μέσω της ιστοσελίδας του αντί μέσω του X, ή χρησιμοποιώντας το Grok Imagine, το εργαλείο δημιουργίας βίντεο και εικόνων της τεχνητής νοημοσύνης.
Το Grok δεν απάντησε στο αίτημα του Euronews Next για δημιουργία σεξουαλικής εικόνας στις 20 Ιανουαρίου. Αντίθετα, ανέφερε ότι η xAI έχει εφαρμόσει μηχανισμούς αποκλεισμού περιεχομένου για να αποτρέπει τη δημιουργία εικόνων που απεικονίζουν πραγματικούς ανθρώπους με αποκαλυπτική ή σεξουαλικοποιημένη ενδυμασία, συμπεριλαμβανομένων των μπικίνι και των εσωρούχων.
«Αυτή τη στιγμή δεν μπορείτε με αξιόπιστο τρόπο να δημιουργήσετε γυμνές ή ημίγυμνες εικόνες μέσω του Grok, ιδίως όχι πραγματικών ανθρώπων ή οτιδήποτε άκρως σεξουαλικό», ανέφερε το chatbot σε απάντηση στο αίτημα. «Η xAI έχει δώσει προτεραιότητα στη νομική συμμόρφωση και την ασφάλεια έναντι της ανεξέλεγκτης “spicy” δημιουργίας μετά τις αντιπαραθέσεις του Ιανουαρίου.»
Το Euronews Next επικοινώνησε με την xAI για σχόλιο σχετικά με την ανάλυση, αλλά δεν έλαβε απάντηση μέχρι τη στιγμή της δημοσίευσης.
Σε ξεχωριστό μήνυμα, ο Musk έγραψε στο X ότι ο αλγόριθμος τόσο της xAI όσο και του Grok είναι «dumb» και «χρειάζεται τεράστιες βελτιώσεις».
Έκτοτε, το X κατέστησε ανοιχτού κώδικα τον αλγόριθμό του και τον ανάρτησε στο GitHub, μια πλατφόρμα προγραμματιστών, για να μοιραστεί τον κώδικα, ώστε οι χρήστες να μπορούν να βλέπουν την ομάδα του να «παλεύει να το βελτιώσει σε πραγματικό χρόνο», όπως είπε ο Musk.
Σύμφωνα με τη σελίδα της xAI στο GitHub, ο αλγόριθμος του X λαμβάνει υπόψη τι έχει κάνει κλικ ή με τι έχει αλληλεπιδράσει ένας χρήστης όταν αποφασίζει ποιο περιεχόμενο θα εμφανίσει στη ροή του.
Αναλύει επίσης περιεχόμενο «εκτός δικτύου» από λογαριασμούς που ο χρήστης δεν ακολουθεί, αλλά ενδέχεται να θεωρεί ενδιαφέρον. Στη συνέχεια, ο αλγόριθμος ταξινομεί και κατατάσσει αυτό το περιεχόμενο χρησιμοποιώντας έναν μαθηματικό τύπο για να αποφασίσει τι θα εμφανιστεί στη ροή του χρήστη.
Φιλτράρει επίσης αναρτήσεις από αποκλεισμένους λογαριασμούς ή λέξεις-κλειδιά που ο χρήστης δεν θέλει να βλέπει, μαζί με περιεχόμενο που ο αλγόριθμος εντοπίζει ως βίαιο ή ανεπιθύμητο (spam), συνέχιζε το διάγραμμα.
Ο Musk έχει δεσμευθεί να ενημερώνει τη σελίδα στο GitHub κάθε τέσσερις εβδομάδες με σημειώσεις των προγραμματιστών, ώστε οι χρήστες να καταλαβαίνουν ποιες αλλαγές έχουν γίνει.