Η κυβέρνηση των ΗΠΑ διατάζει την Anthropic να αναστείλει την πρόσβαση που έχουν αλλοδαποί χρήστες σε πανίσχυρα μοντέλα τεχνητής νοημοσύνης που διαθέτει
Η Anthropic αντέδρασε μετά την έκδοση από την κυβέρνηση Τραμπ οδηγίας που απαγορεύει σε αλλοδαπούς τη χρήση ορισμένων από τα πιο ισχυρά εργαλεία τεχνητής νοημοσύνης της εταιρείας, δηλώνοντας ότι θα συμμορφωθεί με την εντολή, αλλά διαφωνεί με τη συλλογιστική που τη συνοδεύει.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Σε ανάρτηση στο ιστολόγιό της αργά το βράδυ της Παρασκευής, η εταιρεία ανέφερε ότι έλαβε επιστολή από την ομοσπονδιακή κυβέρνηση στις 5.21 μ.μ. (ώρα Ανατολικών ΗΠΑ), με την οποία της ζητείται να αναστείλει την πρόσβαση στα μοντέλα τεχνητής νοημοσύνης Fable 5 και Mythos 5, λόγω ανησυχιών για την εθνική ασφάλεια.
Η απαγόρευση ισχύει για αλλοδαπούς τόσο εντός όσο και εκτός των ΗΠΑ και περιλαμβάνει τους αλλοδαπούς εργαζομένους της Anthropic, ανέφερε η εταιρεία.
«Ως συνέπεια, η εντολή αυτή σημαίνει ότι πρέπει να απενεργοποιήσουμε αιφνιδίως τα Fable 5 και Mythos 5 για όλους τους πελάτες μας, προκειμένου να διασφαλίσουμε τη συμμόρφωση», συνέχισε. «Η πρόσβαση σε όλα τα άλλα μοντέλα της Anthropic δεν θα επηρεαστεί».
Η εταιρεία ζήτησε συγγνώμη για την αναστάτωση στους χρήστες και ανέφερε ότι εργάζεται για την αποκατάσταση της πρόσβασης το συντομότερο δυνατόν.
Η Anthropic ανέφερε ότι, σύμφωνα με την ενημέρωσή της, οι αρχές είχαν εντοπίσει έναν πιθανό τρόπο «jailbreak» του Fable 5. Jailbreak σε μοντέλο τεχνητής νοημοσύνης ονομάζεται όταν ένας χάκερ εκμεταλλεύεται ευπάθειες σε ένα μοντέλο, παρακάμπτοντας τις ηθικές του κατευθυντήριες γραμμές, προκειμένου να εκτελέσει παράνομες ενέργειες.
Η εταιρεία επιχείρησε να υποβαθμίσει το ζήτημα, σημειώνοντας ότι τα κενά ασφαλείας φαίνεται να είναι «σχετικά απλά» και ότι διαπίστωσε πως δημόσια διαθέσιμα μοντέλα μπορούσαν να τα εντοπίσουν.
Πρόσθεσε ότι, παρότι συμμορφώνεται με την οδηγία, διαφωνεί ότι ένα «περιορισμένο, δυνητικό jailbreak» θα έπρεπε να αποτελεί λόγο απόσυρσης ενός εμπορικού μοντέλου που έχει διατεθεί σε εκατοντάδες εκατομμύρια ανθρώπους.
Η Anthropic υπογράμμισε επίσης ότι έχει αναπτύξει «ισχυρές δικλίδες ασφαλείας που μειώνουν σημαντικά την πιθανότητα να χρησιμοποιηθεί το Fable για εργασίες που σχετίζονται με την κυβερνοασφάλεια».
Απαντώντας στην είδηση στην πλατφόρμα X, ο Τζόρνταν Μπαρντελά, ευρωβουλευτής και πρόεδρος του ακροδεξιού γαλλικού κόμματος Εθνικός Συναγερμός, δήλωσε ότι η κίνηση αυτή είναι μια σαφής υπενθύμιση ότι η τεχνητή νοημοσύνη αποτελεί «μεγάλο ζήτημα εθνικής κυριαρχίας».
«Οι χώρες που δεν αναπτύσσουν γρήγορα τα δικά τους μοντέλα θα εξαρτώνται ολοένα και περισσότερο από τις επιλογές άλλων δυνάμεων: η Γαλλία πρέπει να επιταχύνει τη στήριξή της στο “διαμάντι” Mistral AI και σε ολόκληρο το οικοσύστημα της τεχνητής νοημοσύνης», πρόσθεσε.
Ο Τομ Τάγκεντχατ, Βρετανός βουλευτής και πρώην υπουργός αρμόδιος για την ασφάλεια, ανέφερε ότι αυτό δείχνει πόσο κεντρικής σημασίας έχει καταστεί η τεχνολογία για την κυριαρχία.
«Η απενεργοποίηση του Fable 5 και άλλων μοντέλων για τους ξένους δεν είναι παρεξήγηση ούτε λάθος· είναι το αναπόφευκτο αποτέλεσμα του τρόπου με τον οποίο η τεχνολογία διαμορφώνει τον πόλεμο, ώστε η κυριαρχία να έχει περισσότερο να κάνει με τον κώδικα παρά με τα κανόνια», έγραψε στα μέσα κοινωνικής δικτύωσης.
Δεν είναι η πρώτη φορά που η Anthropic και η κυβέρνηση Τραμπ συγκρούονται.
Τον Φεβρουάριο, ο Αμερικανός πρόεδρος διέταξε τις ομοσπονδιακές υπηρεσίες των ΗΠΑ να σταματήσουν άμεσα να χρησιμοποιούν την τεχνολογία της Anthropic, αφού ο διευθύνων σύμβουλος Ντάριο Αμοντέι και η εταιρεία του αντιτάχθηκαν στη χρήση της για ορισμένους αμυντικούς σκοπούς.
«Δεν τη χρειαζόμαστε, δεν τη θέλουμε και δεν θα ξανακάνουμε δουλειές μαζί τους!», έγραψε τότε ο Τραμπ στο Truth Social, λέγοντας ότι θα υπάρξει «περίοδος σταδιακής απόσυρσης» έξι μηνών.
Η Anthropic ανακοίνωσε στη συνέχεια ότι θα κινηθεί νομικά κατά της κυβέρνησης, αφότου αυτή χαρακτήρισε επίσης την εταιρεία ως «κίνδυνο για την αλυσίδα εφοδιασμού».