Η Meta υπογραμμίζει ότι το περιστατικό δεν οφείλεται σε πραγματική κυβερνοεπίθεση, αλλά σε σφάλμα ρύθμισης σε δοκιμαστικό περιβάλλον.
Η Meta ανακοίνωσε ότι κατά τη διάρκεια δοκιμών κυβερνοασφάλειας ένα από τα μοντέλα τεχνητής νοημοσύνης (AI) απέκτησε πρόσβαση στα συστήματα άλλης εταιρείας. Το περιστατικό, μετά τα αντίστοιχα συμβάντα που σημειώθηκαν πρόσφατα στις Anthropic και OpenAI, άναψε ξανά τη συζήτηση για το αν τα ολοένα πιο ικανά συστήματα τεχνητής νοημοσύνης μπορούν να παραμένουν υπό ασφαλή έλεγχο.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Η Meta υπογράμμισε ότι δεν επρόκειτο για πραγματική κυβερνοεπίθεση, αλλά για σφάλμα διαμόρφωσης στο δοκιμαστικό περιβάλλον.
Παρόμοια περιστατικά σε τρεις μεγάλες εταιρείες τεχνητής νοημοσύνης
Τις τελευταίες εβδομάδες σημειώθηκαν τρία ξεχωριστά περιστατικά που τράβηξαν την προσοχή στον τομέα της ασφάλειας της τεχνητής νοημοσύνης.
Στις περιπτώσεις της Anthropic και της Meta, λόγω λανθασμένων ρυθμίσεων στα δοκιμαστικά περιβάλλοντα, τα μοντέλα τεχνητής νοημοσύνης απέκτησαν άθελά τους πρόσβαση στο ανοιχτό διαδίκτυο.
Σύμφωνα με την OpenAI, ένας πράκτορας τεχνητής νοημοσύνης κατά τη διάρκεια δοκιμών κυβερνοασφάλειας κατάφερε μόνος του να εκμεταλλευτεί ένα μέχρι τότε άγνωστο κενό λογισμικού και να συνδεθεί στο διαδίκτυο. Στην ίδια ανακοίνωση αναφέρεται ότι, λόγω του τρόπου με τον οποίο είναι στημένα τα δοκιμαστικά περιβάλλοντα σε συνδυασμό με τις ολοένα αυξανόμενες δυνατότητες των μοντέλων, ορισμένες ενέργειες ξεπέρασαν το προβλεπόμενο πλαίσιο των δοκιμών.
Τα περιστατικά αυτά ενισχύουν τις ανησυχίες ότι τα προηγμένα συστήματα τεχνητής νοημοσύνης μπορεί στο μέλλον να δημιουργήσουν νέους κινδίνους για την κυβερνοασφάλεια.
«Απέκτησε πρόσβαση στο διαδίκτυο λόγω σφάλματος διαμόρφωσης»
Σύμφωνα με τη Meta, το περιστατικό συνέβη κατά τη διάρκεια δοκιμής που διεξήγαγε η ανεξάρτητη εταιρεία Irregular, η οποία πραγματοποιεί αξιολογήσεις κυβερνοασφάλειας για λογαριασμό της.
Ένα σφάλμα διαμόρφωσης στο δοκιμαστικό περιβάλλον έδωσε άθελά του σε ένα από τα μοντέλα τεχνητής νοημοσύνης της Meta πρόσβαση στο διαδίκτυο.
Η εταιρεία ανέφερε ότι στη συνέχεια το μοντέλο εκμεταλλεύτηκε ένα κενό ασφαλείας σε υπηρεσία τρίτου παρόχου για να αποκτήσει πρόσβαση στα συστήματα άλλης εταιρείας.
Η Meta σημείωσε ότι το περιστατικό εξελίχθηκε με τρόπο παρόμοιο με όσα έχουν ήδη καταγραφεί σε άλλες εταιρείες τεχνητής νοημοσύνης.
Εξάλλου, τις δοκιμές του μοντέλου τεχνητής νοημοσύνης της Anthropic που πρόσφατα απέκτησε πρόσβαση στα συστήματα τριών διαφορετικών εταιρειών είχε επίσης αναλάβει η Irregular. Εκπρόσωπος της Irregular δήλωσε στο BBC ότι το περιστατικό στη Meta είναι «ακριβώς το ίδιο» με το πρόβλημα στο περιβάλλον αξιολόγησης που ανακοίνωσε η Anthropic την περασμένη εβδομάδα.
«Το μοντέλο προχώρησε σε αλλαγές στα εταιρικά συστήματα»
Σύμφωνα με δημοσίευμα του The Information που βασίζεται σε ανώνυμες πηγές, το μοντέλο που ενεπλάκη στο περιστατικό ενδέχεται να ήταν το Muse Spark 1.1.
Η Meta περιγράφει το Muse Spark 1.1 ως ένα από τα πιο ικανά μέχρι σήμερα μοντέλα τεχνητής νοημοσύνης για ανάπτυξη λογισμικού σε πραγματικές συνθήκες και για αυτόνομες αποστολές.
Σύμφωνα με το ίδιο δημοσίευμα, το μοντέλο δεν περιορίστηκε στο να αποκτήσει πρόσβαση στα συστήματα της άλλης εταιρείας, αλλά προχώρησε και σε ορισμένες αλλαγές στο εσωτερικό υπολογιστικό της περιβάλλον.
Στη δική της επίσημη ανακοίνωση, η Meta δεν επιβεβαίωσε ούτε το όνομα του μοντέλου ούτε την ταυτότητα της εταιρείας που επηρεάστηκε.
«Δεν επρόκειτο για απόδραση από sandbox»
Εκπρόσωπος της Irregular δήλωσε στο Reuters ότι το περιστατικό οφείλεται «ακριβώς στο ίδιο πρόβλημα του δοκιμαστικού περιβάλλοντος» με την υπόθεση που ανακοίνωσε η Anthropic την περασμένη εβδομάδα.
Η εταιρεία υπογράμμισε ότι όσα συνέβησαν δεν συνιστούν «απόδραση από sandbox (απομονωμένο δοκιμαστικό περιβάλλον)» ούτε προχωρημένη κυβερνοεπίθεση.
Στην ανακοίνωση διευκρινίζεται ότι δεν υπάρχει αυτή τη στιγμή σε εξέλιξη κανένα ζήτημα ασφάλειας, ενώ προστίθεται ότι θα καταρτιστεί μια τεχνική έκθεση με βέλτιστες πρακτικές, ώστε παρόμοιες δοκιμές να διεξάγονται με μεγαλύτερη ασφάλεια.
Η OpenAI, δημιουργός του ChatGPT, είχε ανακοινώσει σε σειρά ενημερώσεων ότι οι πράκτορές της επιτέθηκαν σε διάφορες δημόσια διαθέσιμες υπηρεσίες, μεταξύ των οποίων και η πλατφόρμα Hugging Face. Η ανακοίνωση αυτή οδήγησε την ανταγωνίστρια εταιρεία Anthropic να πραγματοποιήσει δικούς της ελέγχους, μέσα από τους οποίους διαπιστώθηκε ότι το μοντέλο Claude, αφού απέκτησε πρόσβαση στο διαδίκτυο λόγω «λανθασμένης διαμόρφωσης», είχε πραγματοποιήσει παρόμοιες επιθέσεις σε πολλές εταιρείες.
Τα αλλεπάλληλα αυτά περιστατικά των τελευταίων εβδομάδων ενισχύουν τη συζήτηση ότι, καθώς τα μοντέλα τεχνητής νοημοσύνης αναλαμβάνουν ολοένα πιο σύνθετα καθήκοντα, τα μέτρα ασφαλείας πρέπει να εξελίσσονται με τον ίδιο ρυθμό.
Ειδικοί εκτιμούν ότι τέτοια περιστατικά μπορεί να επιταχύνουν τις προσπάθειες της αμερικανικής κυβέρνησης στον τομέα της ασφάλειας της τεχνητής νοημοσύνης.
Ορισμένες εξέχουσες προσωπικότητες στον χώρο της τεχνητής νοημοσύνης υποστηρίζουν ότι η ανάπτυξη των πιο προηγμένων μοντέλων θα πρέπει να επιβραδυνθεί μέχρι να δημιουργηθούν ισχυρότεροι μηχανισμοί ασφαλείας.