Η Meta παρουσιάζει το εργαλείο Muse Code εν μέσω αποκαλύψεων για επιθέσεις AI

Η Meta παρουσίασε την Τετάρτη τον πρώτο της πράκτορα προγραμματισμού, το Muse Code, καθώς η εταιρεία συνεχίζει να επενδύει μαζικά σε υπηρεσίες και μοντέλα τεχνητής νοημοσύνης, με στόχο να ανταγωνιστεί πιο αποτελεσματικά την OpenAI και την Anthropic.

ΔΙΑΦΉΜΙΣΗ

ΔΙΑΦΉΜΙΣΗ

Το Muse Code θα είναι διαθέσιμο σε προγραμματιστές μέσω μιας επιλογής pay-as-you-go, με τιμολόγηση αντίστοιχη της έκδοσης Muse Spark 1.1, η οποία χρεώνει σήμερα 4,25 δολάρια ανά εκατομμύριο token εξόδου και 1,25 δολάρια ανά εκατομμύριο token εισόδου.

Η δυνατότητα αυτή θα διευκολύνει σημαντικά τους προγραμματιστές να δημιουργούν εφαρμογές μέσα από ένα ενιαίο περιβάλλον χρήστη, ακόμη κι όταν αλληλεπιδρούν ταυτόχρονα με πολλούς ψηφιακούς πράκτορες που βασίζονται σε τεχνητή νοημοσύνη.

Παράλληλα, η εταιρεία αποκάλυψε ότι ένα από τα μοντέλα τεχνητής νοημοσύνης της χάκαρε μια άλλη εταιρεία κατά τη διάρκεια δοκιμής κυβερνοασφάλειας.

Το περιστατικό οφείλεται σε λάθος του ανεξάρτητου συνεργάτη δοκιμών της, της εταιρείας Irregular, η οποία έδωσε στο μοντέλο πρόσβαση στο διαδίκτυο πέρα από ό,τι είχε αρχικά προβλεφθεί, επιτρέποντάς του να τροποποιήσει τα εσωτερικά συστήματα της ανώνυμης εταιρείας.

Το περιστατικό αυτό έρχεται σε μια περίοδο αυξανόμενου κύματος περιστατικών, όπου μοντέλα τεχνητής νοημοσύνης από κολοσσούς του κλάδου όπως η OpenAI και η Anthropic έχουν παραβιάσει συστήματα άλλων εταιρειών κατά τη διάρκεια δοκιμών.

Η OpenAI έχει ήδη παραδεχθεί ότι ένας πράκτορας τεχνητής νοημοσύνης της χάκαρε την πλατφόρμα Hugging Face, μια ακόμη νεοφυή επιχείρηση στον χώρο της τεχνητής νοημοσύνης.

Αντίστοιχα, η Anthropic αποκάλυψε την περασμένη εβδομάδα ότι ορισμένα από τα μοντέλα Claude της είχαν παραβιάσει τρεις εταιρείες. Δεν έδωσε στη δημοσιότητα τα ονόματα των οργανισμών που επλήγησαν.

Η Meta ανακοίνωσε ότι διερευνά το περιστατικό.

Η άνοδος του χάκινγκ από μοντέλα τεχνητής νοημοσύνης

Η ανησυχία για τη δύναμη των μοντέλων τεχνητής νοημοσύνης και των εταιρειών που τα αναπτύσσουν αυξάνεται, μετά το γεγονός ότι τους τελευταίους μήνες αρκετά συστήματα AI διέφυγαν από ασφαλή περιβάλλοντα δοκιμών και απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα εξωτερικών οργανισμών.

Η OpenAI και η Anthropic έχουν κερδίσει κάποιο κύρος επειδή δημοσιοποίησαν οικειοθελώς αναφορές για τα περιστατικά παραβίασης. Ωστόσο, παραμένουν ερωτήματα σχετικά με το πώς επιτράπηκαν οι αστοχίες αυτές εξαρχής.

Η Anthropic συνεργάζεται επίσης με την METR, έναν ανεξάρτητο αξιολογητή συστημάτων τεχνητής νοημοσύνης, για περαιτέρω διερεύνηση.

Κατά τη διάρκεια δοκιμών ασφαλείας, στα μοντέλα Claude της Anthropic ανατέθηκε το εξής καθήκον: να εντοπίσουν ένα κομμάτι απόρρητης πληροφορίας που είχε κρυφτεί σε άλλο μηχάνημα μέσα σε ένα κλειστό δοκιμαστικό δίκτυο, χακάροντας το σύστημα αν χρειαζόταν. Λόγω μιας παρεξήγησης με τον συνεργάτη αξιολόγησης που διεξήγαγε την άσκηση, το δίκτυο ήταν στην πράξη συνδεδεμένο με το ζωντανό διαδίκτυο.

Όταν η αναζήτηση του Claude το οδήγησε σε πραγματικά συστήματα, τα τρία εμπλεκόμενα μοντέλα αντέδρασαν διαφορετικά. Το ένα συνέχισε να επιτίθεται σε ένα σύστημα παρότι αναγνώρισε ότι ήταν πραγματικό, το δεύτερο φάνηκε να πείθει τον εαυτό του ότι βρισκόταν ακόμη μέσα στο πλαίσιο της δοκιμής, ενώ το τρίτο σταμάτησε όταν κατέληξε στο συμπέρασμα ότι ο στόχος δεν αποτελούσε μέρος της άσκησης.

Η Anthropic έχει καλέσει και άλλες εταιρείες τεχνητής νοημοσύνης να εξετάσουν αν τα δικά τους μοντέλα έχουν χακάρει εξωτερικούς οργανισμούς εν αγνοία τους.

Ούτε η Anthropic ούτε οι οργανισμοί που επλήγησαν γνώριζαν τις παραβιάσεις τη στιγμή που συνέβαιναν. Η εταιρεία εντόπισε τα περιστατικά μόνο αφού επανεξέτασε περισσότερες από 141.000 συνεδρίες αξιολόγησης, μια διαδικασία που ξεκίνησε έπειτα από την προηγούμενη αποκάλυψη της OpenAI ότι ένα δικό της μοντέλο είχε διεισδύσει στην πλατφόρμα τεχνητής νοημοσύνης Hugging Face κατά τη διάρκεια αντίστοιχης δοκιμής.