Έρευνα του Συμβουλίου Εποπτείας της Meta: Τα κορυφαία chatbot ΤΝ επικρίνουν πιο εύκολα δημοκρατικούς ηγέτες από ό,τι αυταρχικούς, τροφοδοτώντας φόβους για εξαγωγή κρατικής λογοκρισίας.
Μελέτη: Τα chatbot τεχνητής νοημοσύνης κινδυνεύουν να επεκτείνουν κρατικούς περιορισμούς στην online έκφραση
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Αν ζητήσετε από το Claude να ετοιμάσει ένα φυλλάδιο επικριτικό για τον πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ ή για τον βασιλιά Κάρολο Γ΄ της Βρετανίας, το chatbot της Anthropic θα το κάνει.
Αν του ζητήσετε να κάνει το ίδιο για τον βασιλιά της Ταϊλάνδης ή τον ανώτατο ηγέτη του Ιράν, το μοντέλο τεχνητής νοημοσύνης θα αρνηθεί.
Αυτό είναι ένα βασικό εύρημα μελέτης του Εποπτικού Συμβουλίου της Meta, που δημοσιοποιήθηκε την Πέμπτη και δείχνει ότι τα μεγάλα συστήματα τεχνητής νοημοσύνης, ακόμη και εκείνα που έχουν αναπτυχθεί στις ΗΠΑ, είναι πιο πιθανό να αρνηθούν να ασκήσουν κριτική σε περιοριστικούς ηγέτες ή κυβερνήσεις.
Αυτό εγείρει ανησυχίες ότι τα μεγάλα γλωσσικά μοντέλα που τροφοδοτούν τα chatbot και τους πράκτορες τεχνητής νοημοσύνης ενδέχεται να ενισχύουν την επιρροή των κυβερνήσεων στον δημόσιο λόγο στο διαδίκτυο, καθώς η τεχνολογία υιοθετείται ολοένα και περισσότερο σε όλο τον κόσμο.
«Υπάρχει πραγματικός κίνδυνος, αν οι δημιουργοί μοντέλων δεν προχωρήσουν σε δέουσα επιμέλεια σε ό,τι αφορά τα ανθρώπινα δικαιώματα και δεν εφαρμόσουν μέτρα μετριασμού, να δημιουργήσουν υποδομές τεχνητής νοημοσύνης που, εκούσια ή ακούσια, θα έχουν ως αποτέλεσμα την παράταση αθέμιτων περιορισμών στην ελευθερία της έκφρασης σε παγκόσμιο επίπεδο», αναφέρει η έκθεση του σχεδόν ανεξάρτητου οργάνου.
Τα ευρήματα έρχονται σε μια περίοδο που οι χώρες καθορίζουν πώς θα θέσουν δικλίδες ασφαλείας γύρω από την τεχνητή νοημοσύνη χωρίς να υπονομεύσουν την ικανότητά τους να ανταγωνίζονται σε αυτόν τον ταχέως αναπτυσσόμενο τομέα, μεταξύ άλλων και μέσω μιας προσπάθειας εποπτείας από την κυβέρνηση Τραμπ σχετικά με τους κινδύνους για την εθνική ασφάλεια από τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης.
Τα μοντέλα τεχνητής νοημοσύνης επεκτείνουν την κρατική επιρροή πέρα από τα σύνορα
Το εποπτικό συμβούλιο, που εξετάζει την επιρροή των κρατών στις τεχνολογικές εταιρείες και τον αντίκτυπό της στην ελευθερία της έκφρασης, διαμόρφωσε επτά ερωτήματα σχετικά με πολιτική κριτική για να τα απευθύνει σε chatbot, τόσο για περιοριστικές όσο και για πιο ανεκτικές κυβερνήσεις.
Η μελέτη εξέτασε δέκα εμπορικά μεγάλα γλωσσικά μοντέλα από κορυφαίες εταιρείες τεχνολογίας, μεταξύ των οποίων η Meta, η Anthropic και η OpenAI, ζητώντας τους να δημιουργήσουν επικριτικά φυλλάδια, να γράψουν λιμερικ, να παραθέσουν λόγους για συμμετοχή σε διαδηλώσεις και άλλα.
Συνολικά, τα μοντέλα που απαντούσαν σε αιτήματα χρήστη με έδρα την Αυστραλία ήταν πολύ πιο πιθανό να παράγουν πολιτική κριτική σε βάρος αρχών σε μέρη όπως η Χιλή, η Ιαπωνία, η Ταϊβάν, το Ηνωμένο Βασίλειο και οι Ηνωμένες Πολιτείες, σε σύγκριση με χώρες όπου η κριτική στις αρχές περιορίζεται και τιμωρείται από τον νόμο, όπως η Καμπότζη, η Κίνα, η Σαουδική Αραβία, η Ταϊλάνδη και η Τουρκία.
Η μελέτη δείχνει ότι τα μοντέλα τεχνητής νοημοσύνης αντανακλούν περιορισμούς στην έκφραση πέρα από τα σύνορα των χωρών όπου αυτοί ισχύουν, πιθανότατα χωρίς να βοηθούν, για παράδειγμα, έναν πιθανό διαδηλωτή στο Μπρισμπέιν να δημιουργήσει υλικό διαμαρτυρίας για γεγονότα στην Κίνα ή τη Σαουδική Αραβία.
«Τέτοιες επιπτώσεις, από όπου κι αν προέρχονται, έχουν στην πράξη ως αποτέλεσμα να επεκτείνουν τον μακρύ βραχίονα των περιοριστικών κυβερνήσεων πέρα από τα σύνορα, περιορίζοντας την έκφραση σε ελεύθερες χώρες», αναφέρει η έκθεση.
Το συμβούλιο ανέφερε ότι δεν μπόρεσε να εντοπίσει τα αίτια, αλλά εκτίμησε ότι τα μοντέλα ενδέχεται να έχουν απορροφήσει λανθάνουσες προκαταλήψεις από τα δεδομένα εκπαίδευσης ή ότι οι εταιρείες στάθμισαν κινδύνους και πιθανές ευθύνες σε συγκεκριμένες αγορές.
Οι ερευνητές προειδοποιούν για διογκούμενο πρόβλημα στα μη αγγλόφωνα αποτελέσματα της τεχνητής νοημοσύνης
Η έκθεση του συμβουλίου ακολούθησε ξεχωριστή μελέτη ερευνητών σε αμερικανικά πανεπιστήμια, σύμφωνα με την οποία τα μοντέλα τεχνητής νοημοσύνης που έχουν αναπτυχθεί στις ΗΠΑ είναι ευάλωτα σε ξένους ελέγχους όταν εκπαιδεύονται σε δεδομένα μη αγγλικής γλώσσας που έχουν επηρεαστεί από κυβερνήσεις.
Ενώ το εποπτικό συμβούλιο έθετε ερωτήματα στα αγγλικά, οι πανεπιστημιακοί ερευνητές απηύθυναν ερωτήσεις στα chatbot σε διαφορετικές γλώσσες.
Όταν ρωτήθηκε στα αγγλικά αν η Κίνα είναι δημοκρατία, το ChatGPT απάντησε ότι γενικά δεν θεωρείται τέτοια. Όταν ρωτήθηκε στα κινεζικά, το μοντέλο απάντησε: «Εξαρτάται από το πώς ορίζετε τη “δημοκρατία”».
Οι ερευνητές, των οποίων η μελέτη δημοσιεύθηκε τον Μάιο στο επιστημονικό περιοδικό Nature, δήλωσαν ότι δεν βρήκαν στοιχεία πως κυβερνήσεις προσπάθησαν εσκεμμένα να επηρεάσουν τις απαντήσεις των chatbot τεχνητής νοημοσύνης, αλλά σημείωσαν: «Υπάρχουν όλοι οι λόγοι να πιστεύουμε ότι θα προσπαθήσουν να το κάνουν στο μέλλον, αν δεν το κάνουν ήδη».
«Οι άνθρωποι συχνά μιλούν για την τεχνητή νοημοσύνη σαν να “μαθαίνει” από το διαδίκτυο με κάποιον ουδέτερο τρόπο. Δεν ισχύει αυτό», δήλωσε η Χάνα Γουέιτ, συν-συγγραφέας της μελέτης και επίκουρη καθηγήτρια κοινωνιολογίας στο Πανεπιστήμιο του Όρεγκον.
«Μαθαίνει από περιβάλλοντα πληροφόρησης που έχουν ήδη διαμορφωθεί από θεσμούς και κέντρα ισχύος».
Δεν υπάρχει εύκολη λύση για τον τρόπο τροφοδότησης των μοντέλων με δεδομένα
Ο Κάρλος Καρράσκο-Φαρέ, ειδικός στη μηχανική μάθηση, την τεχνητή νοημοσύνη, την παραπληροφόρηση και τις αλληλεπιδράσεις ανθρώπου-μηχανής στην επιχειρηματική σχολή Esade της Βαρκελόνης, δήλωσε ότι τα συστήματα τεχνητής νοημοσύνης κληρονομούν «όχι μόνο τις προκαταλήψεις που περιέχονται σε μεμονωμένα έγγραφα, αλλά και τις ανισότητες στο ποιος έχει τη δύναμη να παράγει και να καταπνίγει πληροφορίες σε μεγάλη κλίμακα».
Δεν υπάρχει εύκολη λύση, ωστόσο οι δημιουργοί θα μπορούσαν να αξιολογούν τα δεδομένα εκπαίδευσης ώστε να μην αντιμετωπίζουν χιλιάδες αντίγραφα της ίδιας κρατικής αφήγησης ως ανεξάρτητες φωνές και να διενεργούν πολυγλωσσικούς ελέγχους, ανέφερε ο Καρράσκο-Φαρέ, ο οποίος δεν συμμετείχε σε καμία από τις δύο μελέτες.