Η άνευ προηγουμένου ενέργεια της κυβέρνησης Τραμπ κατά της Anthropic για τις δικλίδες ασφαλείας στην τεχνητή νοημοσύνη αναγκάζει κυβερνητικούς αναδόχους να επανεξετάσουν τη χρήση του chatbot Claude.
Η αμερικανική κυβέρνηση υλοποιεί την απειλή της να χαρακτηρίσει την εταιρεία τεχνητής νοημοσύνης (AI) Anthropic ως κίνδυνο για την εφοδιαστική αλυσίδα, σε μια πρωτοφανή κίνηση που θα μπορούσε να αναγκάσει κι άλλους κρατικούς αναδόχους να σταματήσουν να χρησιμοποιούν το chatbot τεχνητής νοημοσύνης Claude.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Το Πεντάγωνο ανακοίνωσε σε δήλωσή του την Πέμπτη ότι «ενημέρωσε επίσημα την ηγεσία της Anthropic πως η εταιρεία και τα προϊόντα της θεωρούνται κίνδυνος για την εφοδιαστική αλυσίδα, με άμεση ισχύ».
Η απόφαση φαίνεται να κλείνει κάθε περιθώριο περαιτέρω διαπραγμάτευσης με την Anthropic, σχεδόν μία εβδομάδα αφότου ο πρόεδρος Ντόναλντ Τραμπ και ο υπουργός Άμυνας Πιτ Χέγκσεθ κατηγόρησαν την εταιρεία ότι θέτει σε κίνδυνο την εθνική ασφάλεια.
Ο Τραμπ και ο Χέγκσεθ ανακοίνωσαν μια δέσμη απειλούμενων κυρώσεων την περασμένη Παρασκευή, παραμονή του πολέμου με το Ιράν, αφότου ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι αρνήθηκε να υποχωρήσει, εκφράζοντας ανησυχίες ότι τα προϊόντα της εταιρείας θα μπορούσαν να χρησιμοποιηθούν για μαζική παρακολούθηση Αμερικανών ή για αυτόνομα όπλα.
Ο Αμοντέι δήλωσε την Πέμπτη ότι «δεν θεωρούμε πως αυτή η ενέργεια έχει νομική βάση και δεν βλέπουμε άλλη επιλογή από το να την προσβάλουμε στα δικαστήρια».
«Εδώ τίθεται ένα θεμελιώδες ζήτημα αρχής: οι ένοπλες δυνάμεις να μπορούν να χρησιμοποιούν την τεχνολογία για κάθε νόμιμο σκοπό», ανέφερε η ανακοίνωση του Πενταγώνου.
«Οι ένοπλες δυνάμεις δεν θα επιτρέψουν σε έναν προμηθευτή να παρεμβαίνει στην αλυσίδα διοίκησης περιορίζοντας τη νόμιμη χρήση μιας κρίσιμης δυνατότητας και θέτοντας σε κίνδυνο τους μαχητές μας», προστίθεται.
Ο Αμοντέι απάντησε ότι οι περιορισμένες εξαιρέσεις που ζητούσε η Anthropic, ώστε να τεθούν όρια στην παρακολούθηση και στα αυτόνομα όπλα, «αφορούν στρατηγικούς τομείς χρήσης και όχι τη λήψη επιχειρησιακών αποφάσεων».
Πρόσθεσε ότι τις τελευταίες ημέρες υπήρξαν «εποικοδομητικές συζητήσεις» με το Πεντάγωνο για το αν θα μπορούσε να συνεχιστεί η χρήση του Claude ή να υπάρξει μια «ομαλή μετάβαση» σε περίπτωση που δεν επιτευχθεί συμφωνία.
Ο Τραμπ έδωσε στις ένοπλες δυνάμεις προθεσμία έξι μηνών για να σταματήσουν σταδιακά τη χρήση του Claude, το οποίο είναι ήδη βαθιά ενσωματωμένο σε στρατιωτικές πλατφόρμες και πλατφόρμες εθνικής ασφάλειας. Ο Αμοντέι τόνισε ότι προτεραιότητα είναι να διασφαλιστεί πως οι μαχητές δεν θα «στερηθούν σημαντικά εργαλεία στη μέση μεγάλων πολεμικών επιχειρήσεων».
Ορισμένοι στρατιωτικοί ανάδοχοι έχουν ήδη αρχίσει να διακόπτουν τις σχέσεις τους με την Anthropic, ένα ανερχόμενο αστέρι της τεχνολογίας που πουλά το Claude σε μια σειρά επιχειρήσεων και κρατικών υπηρεσιών.
Η αμυντική βιομηχανία Lockheed Martin δήλωσε ότι θα «ακολουθήσει τις κατευθύνσεις του προέδρου και του υπουργείου Πολέμου» και θα στραφεί σε άλλους παρόχους μεγάλων γλωσσικών μοντέλων.
«Αναμένουμε ελάχιστες επιπτώσεις, καθώς η Lockheed Martin δεν εξαρτάται από κανέναν συγκεκριμένο προμηθευτή LLM για οποιοδήποτε σκέλος της δουλειάς μας», ανέφερε η εταιρεία.
Παραμένει ασαφές πώς το αμερικανικό υπουργείο Άμυνας θα ερμηνεύσει την έκταση του συγκεκριμένου χαρακτηρισμού κινδύνου. Ο Αμοντέι είπε ότι η ειδοποίηση που έλαβε η Anthropic από το Πεντάγωνο την Τετάρτη δείχνει πως αυτός ισχύει μόνο για τη χρήση του Claude από πελάτες ως «άμεσο τμήμα» των στρατιωτικών τους συμβάσεων.
Η Microsoft ανέφερε ότι οι νομικοί της εξέτασαν τον κανονισμό και ότι η εταιρεία «μπορεί να συνεχίσει να συνεργάζεται με την Anthropic σε έργα που δεν σχετίζονται με την άμυνα».
Δέχεται πυρά το Πεντάγωνο για την απόφασή του
Η απόφαση του Πενταγώνου να εφαρμόσει έναν κανόνα που είχε σχεδιαστεί για να αντιμετωπίζει απειλές στην εφοδιαστική αλυσίδα από ξένους αντιπάλους προκάλεσε σφοδρές επικρίσεις. Οι ομοσπονδιακοί κανονισμοί ορίζουν τον κίνδυνο στην εφοδιαστική αλυσίδα ως «τον κίνδυνο ένας αντίπαλος να σαμποτάρει, να εισαγάγει κακόβουλα ανεπιθύμητες λειτουργίες ή με άλλον τρόπο να υπονομεύσει» ένα σύστημα, με στόχο να το διαταράξει, να το υποβαθμίσει ή να κατασκοπεύσει μέσω αυτού.
Η γερουσιαστής των ΗΠΑ Κίρστεν Γκίλιμπραντ, Δημοκρατική από τη Νέα Υόρκη και μέλος των επιτροπών Ενόπλων Δυνάμεων και Πληροφοριών της Γερουσίας, χαρακτήρισε την κίνηση «επικίνδυνη κατάχρηση ενός εργαλείου που προορίζεται για την αντιμετώπιση τεχνολογιών υπό τον έλεγχο αντιπάλων».
«Αυτή η απερίσκεπτη ενέργεια είναι κοντόφθαλμη, αυτοκαταστροφική και δώρο για τους αντιπάλους μας», ανέφερε σε γραπτή δήλωσή της την Πέμπτη.
Ο Νιλ Τσίλσον, Ρεπουμπλικανός και πρώην επικεφαλής τεχνολόγος της Ομοσπονδιακής Επιτροπής Εμπορίου, που πλέον ηγείται της πολιτικής για την τεχνητή νοημοσύνη στο Abundance Institute, δήλωσε ότι η απόφαση μοιάζει με «τεράστια υπέρβαση που θα ζημιώσει τόσο τον αμερικανικό κλάδο της τεχνητής νοημοσύνης όσο και την ικανότητα των ενόπλων δυνάμεων να προμηθεύονται την καλύτερη δυνατή τεχνολογία για τους Αμερικανούς μαχητές».
Νωρίτερα μέσα στην ημέρα, μια ομάδα πρώην αξιωματούχων άμυνας και εθνικής ασφάλειας έστειλε επιστολή σε Αμερικανούς νομοθέτες, εκφράζοντας «σοβαρή ανησυχία» για τον χαρακτηρισμό.
«Η χρήση αυτής της εξουσίας εναντίον μιας αμερικανικής εταιρείας του εσωτερικού αποτελεί βαθιά απόκλιση από τον αρχικό της σκοπό και δημιουργεί ένα επικίνδυνο προηγούμενο», ανέφερε η επιστολή των πρώην αξιωματούχων και ειδικών πολιτικής, στην οποία συνυπογράφουν, μεταξύ άλλων, ο πρώην διευθυντής της CIA Μάικλ Χέιντεν και απόστρατοι ηγέτες της Πολεμικής Αεροπορίας, του Στρατού Ξηράς και του Πολεμικού Ναυτικού.
Πρόσθεταν ότι ένας τέτοιος χαρακτηρισμός αποσκοπεί στο να «προστατεύει τις Ηνωμένες Πολιτείες από διείσδυση ξένων αντιπάλων, από εταιρείες υποχρεωμένες να λογοδοτούν στο Πεκίνο ή τη Μόσχα, όχι από Αμερικανούς καινοτόμους που λειτουργούν με διαφάνεια υπό το κράτος δικαίου. Η χρήση αυτού του εργαλείου για να τιμωρηθεί μια αμερικανική εταιρεία επειδή αρνήθηκε να άρει δικλείδες ασφαλείας κατά της μαζικής εσωτερικής παρακολούθησης και των πλήρως αυτόνομων όπλων είναι σφάλμα κατηγορίας, με συνέπειες που υπερβαίνουν κατά πολύ αυτή την αντιπαράθεση».
Άλμα στις καταναλωτικές λήψεις για την Anthropic
Την ώρα που χάνει μεγάλες συνεργασίες με αμυντικούς αναδόχους, η Anthropic είδε την περασμένη εβδομάδα τις λήψεις από καταναλωτές να εκτοξεύονται, καθώς πολλοί τάχθηκαν στο πλευρό της λόγω της ηθικής της στάσης. Πάνω από ένα εκατομμύριο άνθρωποι εγγράφονταν καθημερινά στο Claude αυτή την εβδομάδα, σύμφωνα με την εταιρεία, γεγονός που το ανέβασε πάνω από το ChatGPT της OpenAI και το Gemini της Google ως την κορυφαία εφαρμογή τεχνητής νοημοσύνης σε περισσότερες από 20 χώρες στο App Store της Apple.
Η αντιπαράθεση με το Πεντάγωνο έχει επίσης οξύνει ακόμη περισσότερο τη σκληρή ανταγωνιστική σχέση της Anthropic με την OpenAI, που ξεκίνησε όταν πρώην στελέχη της OpenAI, μεταξύ των οποίων και ο Αμοντέι, ίδρυσαν την Anthropic το 2021.
Λίγες ώρες αφότου το Πεντάγωνο τιμώρησε την Anthropic την περασμένη Παρασκευή, η OpenAI ανακοίνωσε μια συμφωνία που ουσιαστικά αντικαθιστά την Anthropic με το ChatGPT σε διαβαθμισμένα στρατιωτικά περιβάλλοντα.
Η OpenAI ανέφερε ότι είχε επιδιώξει αντίστοιχες δικλείδες προστασίας κατά της εσωτερικής παρακολούθησης και των πλήρως αυτόνομων όπλων, αλλά στη συνέχεια αναγκάστηκε να τροποποιήσει τις συμφωνίες της, με αποτέλεσμα ο διευθύνων σύμβουλος Σαμ Άλτμαν να παραδεχθεί ότι δεν θα έπρεπε να έχει επισπεύσει μια συμφωνία που «έμοιαζε ευκαιριακή και πρόχειρη».
Ο Αμοντέι εξέφρασε επίσης μεταμέλεια για τον δικό του ρόλο σε εκείνη τη «δύσκολη μέρα για την εταιρεία», δηλώνοντας την Πέμπτη ότι ήθελε να «ζητήσει άμεση συγγνώμη» για ένα εσωτερικό σημείωμα που έστειλε στο προσωπικό της Anthropic, στο οποίο επέκρινε τη συμπεριφορά της OpenAI και υπονοούσε ότι η Anthropic τιμωρείται επειδή δεν απηύθυνε «εγκώμια τύπου δικτάτορα» στον Τραμπ.