Ανθρώπινο λάθος στο σύστημα διαχείρισης περιεχομένου της Anthropic αποκαλύπτει κατά λάθος προσχέδιο ιστολογίου που περιγράφει το μοντέλο
Anthropic εργάζεται πάνω σε ένα νέο, ισχυρό μοντέλο τεχνητής νοημοσύνης (AI) που «δημιουργεί πρωτοφανείς κινδύνους για την κυβερνοασφάλεια», σύμφωνα με διαρροή από την εταιρεία.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Την περασμένη εβδομάδα, διαρροή δεδομένων αποκάλυψε ότι η Anthropic αναπτύσσει ένα νέο, ισχυρό μοντέλο, το οποίο η εταιρεία τεχνητής νοημοσύνης έχει έκτοτε αναγνωρίσει ότι ονομάζεται «Claude Mythos».
Εκπρόσωπος της Anthropic δήλωσε στο Fortune (πηγή στα Αγγλικά) ότι το μοντέλο συνιστά ένα «ποιοτικό άλμα» στην AI και είναι το «πιο ικανό» που έχει δημιουργήσει μέχρι σήμερα, με «ουσιαστική πρόοδο στη συλλογιστική, τον προγραμματισμό και την κυβερνοασφάλεια».
Η τεχνολογία μπορεί να αποδειχθεί τόσο ισχυρή ώστε να αποτελεί ιδανικό εργαλείο για χάκερ. Οι μετοχές εταιρειών κυβερνοασφάλειας υποχώρησαν μετά τις φήμες για την Anthropic.
Παράλληλα, η Anthropic φέρεται να προειδοποιεί κατ’ ιδίαν υψηλόβαθμους κυβερνητικούς αξιωματούχους ότι το Mythos καθιστά πολύ πιθανότερες τις μαζικές κυβερνοεπιθέσεις το 2026, όπως μετέδωσε το Axios (πηγή στα Αγγλικά).
Όσα γνωρίζουμε μέχρι στιγμής για το Mythos.
Πώς αποκαλύφθηκε η διαρροή;
Ένα σφάλμα ρύθμισης, ή ανθρώπινο λάθος, στο σύστημα διαχείρισης περιεχομένου της Anthropic αποκάλυψε κατά λάθος ένα προσχέδιο ανάρτησης ιστολογίου που περιέγραφε το μοντέλο.
Η ανάρτηση, στην οποία αναφέρθηκε το Fortune και η οποία ήταν «διαθέσιμη σε ένα μη ασφαλές, δημόσια προσβάσιμο αποθετήριο δεδομένων», ανέφερε ότι το νέο μοντέλο «δημιουργεί πρωτοφανείς κινδύνους για την κυβερνοασφάλεια».
Τι μπορεί να κάνει το Mythos;
Λέγεται ότι το Mythos αποτελεί μέρος του Capybara, που είναι μια νέα κατηγορία μοντέλων τεχνητής νοημοσύνης t
Το Fortune μετέφερε ότι, σύμφωνα με το έγγραφο, «“Capybara” είναι ένα νέο όνομα για μια νέα βαθμίδα μοντέλου: μεγαλύτερο και πιο ευφυές από τα μοντέλα μας Opus, τα οποία ήταν, μέχρι τώρα, τα πιο ισχυρά μας».
Οι προηγμένες δυνατότητες του μοντέλου δείχνουν ότι τα συστήματα τεχνητής νοημοσύνης μπορούν να αντιμετωπίζουν πιο περίπλοκα προβλήματα με μεγαλύτερη αυτονομία και ακρίβεια.
Τα ονόματα Capybara και Mythos φαίνεται να αναφέρονται στο ίδιο υποκείμενο μοντέλο.
Πώς θα επηρεάσει την κυβερνοασφάλεια;
Καθώς οι εταιρείες τεχνητής νοημοσύνης διαθέτουν ολοένα πιο εξελιγμένα μοντέλα, βελτιώνονται και οι πράκτορες AI, οι οποίοι μαθαίνουν να ενεργούν και να συλλογίζονται χωρίς ανθρώπινη παρέμβαση.
Έτσι, οι χάκερ μπορούν να διεξάγουν ταυτόχρονα πολλαπλές καμπάνιες επιθέσεων, κάτι που καθίσταται πολύ δυσκολότερο να αντιμετωπιστεί.
Την ίδια στιγμή, εργαζόμενοι χρησιμοποιούν πράκτορες AI που μπορούν, χωρίς να το αντιληφθούν, να συνδεθούν με τα εταιρικά τους συστήματα, ανοίγοντας έτσι μια «πόρτα» για τους κυβερνοεγκληματίες.
Επιπλέον, η τεχνητή νοημοσύνη διευκολύνει πλέον την παραβίαση ψηφιακών ταυτοτήτων, όπως δήλωσε στέλεχος της Palo Alto Networks στο Euronews Next τον Μάρτιο.
Πότε θα δούμε το Mythos;
Το Mythos απαιτεί τεράστιους υπολογιστικούς πόρους και είναι πολύ ακριβό στη λειτουργία του. Η Anthropic αναφέρει ότι εργάζεται για να το καταστήσει πολύ πιο αποδοτικό πριν από οποιαδήποτε γενική διάθεση.
Το Euronews Next έχει ζητήσει από την Anthropic να σχολιάσει.