Λίγες ώρες, όχι εβδομάδες: τόσο χρειάζεται ένα μοντέλο τεχνητής νοημοσύνης της Anthropic για να εντοπίσει κενά ασφαλείας σε απόρρητα συστήματα της κυβέρνησης των ΗΠΑ.
Ένα μοντέλο τεχνητής νοημοσύνης που ανέπτυξε η Anthropic εντόπισε ευπάθειες σε άκρως ευαίσθητα πληροφοριακά συστήματα της αμερικανικής κυβέρνησης κατά τη διάρκεια άσκησης δοκιμών, δήλωσε αξιωματούχος των ΗΠΑ στο Associated Press.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Ο αξιωματούχος, ο οποίος μίλησε υπό καθεστώς ανωνυμίας, ανέφερε ότι η Anthropic συνεργάστηκε με τις υπηρεσίες πληροφοριών των ΗΠΑ για να διεξαγάγει τις δοκιμές, χρησιμοποιώντας το μοντέλο Mythos της εταιρείας.
Σύμφωνα με τον ίδιο, το μοντέλο εντόπισε ορισμένες ευπάθειες μέσα σε λίγες ώρες, κάτι που όμως δεν σημαίνει ότι κατάφερε να τις εκμεταλλευτεί σε αυτό το διάστημα.
Οι δοκιμές πραγματοποιήθηκαν μέσω μιας πρωτοβουλίας της Anthropic με την ονομασία Project Glasswing, η οποία συγκέντρωσε εταιρείες τεχνολογίας με στόχο την προστασία κρίσιμου λογισμικού από τις «σοβαρές» συνέπειες που θα μπορούσε να έχει το Mythos για τη δημόσια ασφάλεια, την εθνική ασφάλεια και την οικονομία.
Ο Δημοκρατικός γερουσιαστής Μαρκ Γουόρνερ από τη Βιρτζίνια είχε αναφέρει εν συντομία τις δοκιμές κατά τη διάρκεια ακρόασης στις 11 Ιουνίου στην Επιτροπή Τραπεζών, Στέγασης και Αστικών Υποθέσεων της Γερουσίας.
«Αυτό το εργαλείο παραβίασε σχεδόν όλα τα διαβαθμισμένα συστήματά μας, όχι σε εβδομάδες αλλά σε ώρες», είπε, αποδίδοντας τις πληροφορίες στον επικεφαλής της Υπηρεσίας Εθνικής Ασφάλειας (NSA) και της Διοίκησης Κυβερνοχώρου των ΗΠΑ, στρατηγό Τζόσουα Ραντ.
Κλιμακούμενες εντάσεις
Παρά τη συνεργασία μεταξύ της Anthropic και των αμερικανικών υπηρεσιών, οι εντάσεις ανάμεσα στην εταιρεία με έδρα την Καλιφόρνια και την κυβέρνηση Τραμπ εντείνονται.
Η Anthropic έχει εκφράσει ανησυχίες για το πώς ο αμερικανικός στρατός θα χρησιμοποιήσει την τεχνητή της νοημοσύνη, ενώ η κυβέρνηση έχει κινηθεί για να περιορίσει τη χρήση ορισμένων μοντέλων της.
Στις αρχές του μήνα, η κυβέρνηση εξέδωσε οδηγία που απαιτεί από την Anthropic να αποτρέψει υπηκόους ξένων χωρών από το να χρησιμοποιούν τα πιο πρόσφατα μοντέλα της, γνωστά ως Fable 5 και Mythos 5.
Η Anthropic διέθεσε ευρέως αυτόν τον μήνα το Fable – μια περιορισμένη εκδοχή του πιο προηγμένου Mythos, στην πρόσβαση του οποίου η εταιρεία έχει επιβάλει αυστηρούς περιορισμούς λόγω ανησυχιών για την κυβερνοασφάλεια.
Η οδηγία εκδόθηκε δέκα ημέρες μετά την υπογραφή από τον πρόεδρο Ντόναλντ Τραμπ εκτελεστικού διατάγματος που θεσπίζει πλαίσιο, βάσει του οποίου η ομοσπονδιακή κυβέρνηση θα μπορεί να εξετάζει τους κινδύνους για την εθνική ασφάλεια που ενέχουν τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης για διάστημα έως και ενός μήνα πριν από τη δημόσια κυκλοφορία τους.
Η συμμετοχή των εταιρειών ανάπτυξης τεχνητής νοημοσύνης θα είναι εθελοντική, αναφέρεται στο διάταγμα.
Η Anthropic ανέφερε ότι απενεργοποίησε τα μοντέλα για όλους τους πελάτες της προκειμένου να συμμορφωθεί με την οδηγία, προσθέτοντας όμως ότι δεν θεωρεί πως τα μέτρα της κυβέρνησης δικαιολογούνται από το ζήτημα ασφάλειας που είχε επισημάνει.
Αντίδραση της βιομηχανίας
Περισσότεροι από 100 ειδικοί στην κυβερνοασφάλεια και στελέχη εταιρειών όπως οι Adobe και Nvidia απέστειλαν επιστολή στην κυβέρνηση, ζητώντας την άρση της οδηγίας και προειδοποιώντας ότι η κίνηση αυτή μπορεί να ωφελήσει τους αντιπάλους των ΗΠΑ περισσότερο απ’ όσο τους βλάπτει.
Στην επιστολή τους, οι υπογράφοντες αναφέρουν ότι τα μοντέλα Mythos της Anthropic είναι «αρκετά καλά» στον εντοπισμό σφαλμάτων λογισμικού και στη μετατροπή των ευπαθειών σε όπλα – αλλά «όχι μοναδικά καλά σε αυτές τις εργασίες».
Πολλοί σημείωσαν ότι χρησιμοποιούν τακτικά άλλα βασικά και ανοικτού κώδικα μοντέλα για ελέγχους ασφαλείας και εκπαίδευση, και προειδοποίησαν ότι είναι επικίνδυνο να αφαιρούνται οι καλύτερες δυνατότητες κυβερνοάμυνας «χωρίς σοβαρό λόγο» σε μια περίοδο που οι αντίπαλοι των ΗΠΑ προοδεύουν με γρήγορους ρυθμούς.