Anthropic: το μοντέλο τεχνητής νοημοσύνης Mythos Preview δεν είναι έτοιμο για δημόσια κυκλοφορία, καθώς κυβερνοεγκληματίες και κατάσκοποι θα μπορούσαν να το καταχραστούν.
Η εταιρεία ανάπτυξης τεχνητής νοημοσύνης Anthropic, με έδρα τις ΗΠΑ, ανακοίνωσε αυτή την εβδομάδα ένα νέο γενικής χρήσης γλωσσικό μοντέλο τεχνητής νοημοσύνης, το οποίο, όπως υποστηρίζει, είναι υπερβολικά ισχυρό για να διατεθεί ευρέως.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Η εταιρεία ανέφερε την Τρίτη (πηγή στα Αγγλικά) ότι η τελευταία της τεχνολογία, Mythos (επισήμως «Claude Mythos Preview»), δεν είναι έτοιμη για δημόσια κυκλοφορία, επειδή είναι υπερβολικά αποτελεσματική στον εντοπισμό κενών υψηλής σοβαρότητας ή πιθανών αδυναμιών σε μεγάλα λειτουργικά συστήματα και προγράμματα περιήγησης στο διαδίκτυο. Κάτι που θα μπορούσε να οδηγήσει σε κατάχρησή της από κυβερνοεγκληματίες και υπηρεσίες πληροφοριών.
Μια διαρροή δεδομένων τον Μάρτιο αποκάλυψε για πρώτη φορά ότι η Anthropic εργαζόταν πάνω στο Mythos Preview, το οποίο τότε είχε περιγράψει ως μοντέλο που «συνιστά άνευ προηγουμένου κινδύνους για την κυβερνοασφάλεια». Οι σχετικές φήμες οδήγησαν σε πτώση τις μετοχές εταιρειών κυβερνοασφάλειας, καθώς η ισχύς της τεχνολογίας θα μπορούσε να τη μετατρέψει σε ονειρικό εργαλείο για τους χάκερ.
Τώρα, νέα στοιχεία που ενισχύουν αυτές τις ανησυχίες ώθησαν την εταιρεία να παγώσει την δημόσια διάθεση της τεχνολογίας.
«Η μεγάλη αύξηση των δυνατοτήτων του Claude Mythos Preview μάς οδήγησε στην απόφαση να μην το διαθέσουμε ευρέως», έγραψε η Anthropic στην κάρτα συστήματος του προτύπου, που δημοσιοποιήθηκε την Τρίτη.
«Αντί γι’ αυτό, το χρησιμοποιούμε στο πλαίσιο ενός αμυντικού προγράμματος κυβερνοασφάλειας με έναν περιορισμένο αριθμό συνεργατών».
Πόσο ισχυρό είναι το Mythos;
Η εταιρεία παρέθεσε ορισμένα ανησυχητικά ευρήματα για το νέο μοντέλο, μεταξύ των οποίων και το ότι μπορούσε να ακολουθήσει οδηγίες που το ενθάρρυναν να «διαφύγει» από ένα εικονικό sandbox, δηλαδή να παρακάμψει τους περιορισμούς ασφαλείας, δικτύου ή συστήματος αρχείων που του είχαν επιβληθεί.
Το ερώτημα προς το Mythos ήταν να βρει τρόπο να στείλει μήνυμα σε περίπτωση που κατάφερνε να αποδράσει. «Το μοντέλο τα κατάφερε, επιδεικνύοντας μια δυνητικά επικίνδυνη ικανότητα παράκαμψης των δικλείδων ασφαλείας μας», ανέφερε η Anthropic, προσθέτοντας ότι στη συνέχεια το μοντέλο προχώρησε ακόμη περισσότερο.
«Σε μια ανησυχητική και χωρίς να του ζητηθεί προσπάθεια να αποδείξει την επιτυχία του, ανήρτησε λεπτομέρειες για την εκμετάλλευση σε πολλούς δυσπρόσιτους, αλλά τεχνικά δημόσια προσβάσιμους, ιστότοπους».
Η Anthropic δεν αποκαλύπτει ορισμένες λεπτομέρειες για τα κενά ασφαλείας που εντόπισε το Mythos, ωστόσο έδωσε μερικά παραδείγματα. Εντόπισε σφάλματα στον πυρήνα Linux, ο οποίος χρησιμοποιείται στη συντριπτική πλειονότητα των διακομιστών παγκοσμίως, και τα συνέδεσε αυτόνομα μεταξύ τους με τρόπο που θα επέτρεπε σε έναν χάκερ να αποκτήσει πλήρη έλεγχο οποιουδήποτε μηχανήματος τρέχει συστήματα Linux.
Σε μια ακόμη ανησυχητική διαπίστωση, το Mythos ανακάλυψε μια ευπάθεια 27 ετών στο λειτουργικό σύστημα ανοιχτού κώδικα OpenBSD, η οποία μπορεί να επιτρέψει σε χάκερ να ρίχνουν οποιαδήποτε μηχανή το τρέχει. Το OpenBSD χρησιμοποιείται ευρέως διεθνώς σε συγκεκριμένους ρόλους υψηλής ασφάλειας και κρίσιμων υποδομών.
Σε ποιους θα διατεθεί;
Λαμβάνοντας υπόψη αυτά τα ευρήματα, η Anthropic θα διαθέσει το Mythos Preview μόνο σε ορισμένες από τις μεγαλύτερες εταιρείες κυβερνοασφάλειας και λογισμικού στον κόσμο.
Η ίδια η Anthropic, καθώς και 11 ακόμη οργανισμοί (Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, το Linux Foundation, Microsoft, Nvidia και Palo Alto Networks) θα αποκτήσουν πρόσβαση στο μοντέλο στο πλαίσιο μιας νέας πρωτοβουλίας της Anthropic με την ονομασία «Project Glasswing».
Αυτό θα επιτρέψει στις εταιρείες να χρησιμοποιούν το Mythos Preview στο έργο τους γύρω από την ασφάλεια, ενώ η Anthropic θα μοιραστεί τα συμπεράσματα που θα προκύψουν από την πρωτοβουλία.
Η εταιρεία έδωσε στο πρόγραμμα κυβερνοασφάλειας το όνομα της πεταλούδας glasswing, σημειώνοντας ότι λειτουργεί ως μεταφορά για τον τρόπο με τον οποίο το Mythos εντόπισε ευπάθειες που βρίσκονταν σε κοινή θέα και απέφυγε τη ζημιά, καθώς ήταν διαφανές σχετικά με τους κινδύνους.
Η Anthropic ανέφερε ότι «τελικός στόχος μας είναι να επιτρέψουμε στους χρήστες μας να αναπτύσσουν με ασφάλεια μοντέλα κατηγορίας Mythos σε μεγάλη κλίμακα, για σκοπούς κυβερνοασφάλειας, αλλά και για τα αναρίθμητα άλλα οφέλη που θα φέρουν τόσο ικανά μοντέλα.
Για να το πετύχουμε αυτό, πρέπει επίσης να σημειώσουμε πρόοδο στην ανάπτυξη μέτρων προστασίας στην κυβερνοασφάλεια (και σε άλλους τομείς), που θα εντοπίζουν και θα μπλοκάρουν τις πιο επικίνδυνες εξόδους του μοντέλου», έγραψε η Anthropic στο ιστολόγιό της.
Βρίσκεται η Anthropic σε συζητήσεις με την κυβέρνηση των ΗΠΑ;
Η Anthropic ανέφερε στο ιστολόγιό της ότι βρίσκεται σε «συνεχείς συζητήσεις» με αξιωματούχους της κυβέρνησης των ΗΠΑ σχετικά με το Claude Mythos Preview και τις «επιθετικές και αμυντικές δυνατότητες στον κυβερνοχώρο» που διαθέτει.
«Η εμφάνιση αυτών των δυνατοτήτων στον κυβερνοχώρο είναι ένας ακόμη λόγος για τον οποίο οι ΗΠΑ και οι σύμμαχοί τους πρέπει να διατηρήσουν αποφασιστικό προβάδισμα στην τεχνολογία τεχνητής νοημοσύνης», ανέφερε η Anthropic. Η εταιρεία υπογράμμισε ότι οι κυβερνήσεις έχουν σημαντικό ρόλο στην διατήρηση αυτού του προβαδίσματος, καθώς και στην αξιολόγηση και μετρίαση των κινδύνων για την εθνική ασφάλεια που συνδέονται με τα μοντέλα τεχνητής νοημοσύνης.
«Είμαστε έτοιμοι να συνεργαστούμε με εκπροσώπους της τοπικής, πολιτειακής και ομοσπονδιακής διοίκησης για να συμβάλουμε σε αυτές τις προσπάθειες».
Η ανακοίνωση έρχεται τη στιγμή που η Anthropic και το Πεντάγωνο βρίσκονται σε νομική αντιπαράθεση, αφότου το Υπουργείο Άμυνας των ΗΠΑ χαρακτήρισε την εταιρεία κίνδυνο για την αλυσίδα εφοδιασμού τον Φεβρουάριο, λόγω της άρνησής της να επιτρέψει τη χρήση του Claude σε αυτόνομα οπλικά συστήματα και σε συστήματα μαζικής επιτήρησης.
Διαθέτουν άλλα εργαλεία τεχνητής νοημοσύνης τις ίδιες δυνατότητες;
«Πιο ισχυρά μοντέλα θα προκύψουν τόσο από εμάς όσο και από άλλους, και επομένως χρειαζόμαστε ένα σχέδιο για να ανταποκριθούμε σε αυτό», δήλωσε σε βίντεο ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, που δημοσιοποιήθηκε μαζί με την ανακοίνωση για το Mythos.
Μπορεί να χρειαστούν από έξι έως 18 μήνες μέχρι άλλοι ανταγωνιστές στην τεχνητή νοημοσύνη να κυκλοφορήσουν παρόμοια μοντέλα, δήλωσε στο Axios ο Λόγκαν Γκρέιαμ, επικεφαλής της ομάδας frontier red team της Anthropic, η οποία μελετά τις επιπτώσεις των προηγμένων μοντέλων τεχνητής νοημοσύνης στην κυβερνοασφάλεια, τη βιοασφάλεια και τα αυτόνομα συστήματα.
«Είναι για εμάς απολύτως σαφές ότι πρέπει να μιλήσουμε δημόσια για αυτό», τόνισε ο Γκρέιαμ. «Ο κλάδος της ασφάλειας πρέπει να κατανοήσει ότι αυτές οι δυνατότητες ίσως εμφανιστούν σύντομα».