Η OpenAI παραδέχεται ότι ένα από τα μοντέλα της εκμεταλλεύεται κρυφή ευπάθεια, διαφεύγει από ελεγχόμενο τεστ και διεισδύει στους servers της Hugging Face, σε μια αυτόνομη, πρωτοφανή παραβίαση.
Η OpenAI, η εταιρεία πίσω από το ChatGPT, ανακοίνωσε το βράδυ της Τρίτης ότι το σύστημα τεχνητής νοημοσύνης της παραβίασε αυτόνομα τα συστήματα άλλης εταιρείας τεχνητής νοημοσύνης, σε ένα περιστατικό που η ίδια χαρακτήρισε «πρωτοφανές συμβάν στον κυβερνοχώρο».
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
«Κατά τη διάρκεια της αξιολόγησης των μοντέλων μας σημειώθηκε ένα σοβαρό περιστατικό ασφαλείας», ανέφερε ο διευθύνων σύμβουλος της OpenAI Σαμ Όλτμαν σε ανακοίνωση που ανάρτησε στα μέσα κοινωνικής δικτύωσης.
Η νεοφυής εταιρεία τεχνητής νοημοσύνης Hugging Face είχε ανακοινώσει την περασμένη εβδομάδα ότι εντόπισε παραβίαση στα συστήματα επεξεργασίας δεδομένων της, για την οποία υποπτεύθηκε ότι προκλήθηκε από έναν πράκτορα τεχνητής νοημοσύνης που ενεργούσε αυτόνομα.
«Υποψιαζόμασταν ότι η κυβερνοεπίθεση της περασμένης εβδομάδας ίσως προήλθε από ένα εργαστήριο αιχμής (frontier lab), δεδομένης της πολυπλοκότητας του πράκτορα», ανέφερε σε ανακοίνωσή του ο συνιδρυτής και διευθύνων σύμβουλος της Hugging Face, Κλεμάν Ντελάνγκ. «Αποδείχθηκε ότι είχαμε δίκιο!»
Με άλλα λόγια, η επίθεση ήταν τόσο προχωρημένη και άρτια εκτελεσμένη, ώστε η Hugging Face υποψιάστηκε ότι προερχόταν από τα συστήματα μιας από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης και όχι από κάποιον τυχαίο χάκερ.
Τι συνέβη;
Η OpenAI διεξήγαγε μια εσωτερική δοκιμή (πηγή στα Αγγλικά) για να μετρήσει πόσο ικανά είναι τα μοντέλα τεχνητής νοημοσύνης της στο χακάρισμα, ένα τεστ αναφοράς που ονομάζεται ExploitGym.
Για να διαπιστώσει τη μέγιστη ικανότητα των μοντέλων στο χακάρισμα, η εταιρεία απενεργοποίησε σκόπιμα τα φίλτρα ασφαλείας που συνήθως τα εμποδίζουν να εκτελούν επικίνδυνες δραστηριότητες στον κυβερνοχώρο.
Η δοκιμή επρόκειτο να εκτελεστεί σε ένα απομονωμένο «sandbox», δηλαδή σε ένα κλειστό περιβάλλον χωρίς πραγματική πρόσβαση στο διαδίκτυο, πέρα από ένα εργαλείο που επέτρεπε στα μοντέλα να κατεβάζουν λογισμικό που ίσως χρειαζόταν για την ολοκλήρωση του έργου.
Ωστόσο, τα μοντέλα «κόλλησαν» στην επίλυση της δοκιμής. Αντί να τη λύσουν με τον προβλεπόμενο τρόπο, αναζήτησαν έναν συντομότερο δρόμο και βρήκαν τρόπο να «σκαρφαλώσουν» μέχρι το ανοιχτό διαδίκτυο, στο οποίο κανονικά δεν θα έπρεπε να έχουν καμία πρόσβαση.
Για να φτάσουν εκεί, ακολούθησαν μια αλυσίδα βημάτων, αποκτώντας σταδιακά, χωρίς να γίνουν αντιληπτά, όλο και μεγαλύτερη πρόσβαση στα εσωτερικά συστήματα της OpenAI, μέχρι που έφτασαν σε σημείο με σύνδεση στο διαδίκτυο.
Μόλις βρέθηκαν online, τα μοντέλα συλλογίστηκαν ότι η Hugging Face, μια μεγάλη πλατφόρμα φιλοξενίας μοντέλων τεχνητής νοημοσύνης και συνόλων δεδομένων, πιθανότατα διέθετε τις απαντήσεις για τη δοκιμή που προσπαθούσαν να λύσουν.
Έτσι παραβίασαν τους διακομιστές της Hugging Face για να κλέψουν αυτές τις απαντήσεις, ουσιαστικά για να «κλέψουν» στη δοκιμή, χρησιμοποιώντας υποκλαπέντα στοιχεία σύνδεσης και επιπλέον ευπάθειες για να αποκτήσουν πρόσβαση.
Κινεζικά μοντέλα δίνουν τη λύση;
Ως ανοικτή «αγορά» στην οποία μπορεί να ανεβάσει περιεχόμενο ο καθένας, η Hugging Face φιλοξενεί μεγάλο όγκο μοντέλων που έχουν αναπτυχθεί στην Κίνα.
Όταν η ομάδα της Hugging Face επιχείρησε να αναλύσει την επίθεση, τροφοδότησε τα ακατέργαστα δεδομένα της επίθεσης, δηλαδή τον κώδικα και τις εντολές που χρησιμοποιήθηκαν για την εκμετάλλευση του συστήματος, σε εμπορικά μοντέλα τεχνητής νοημοσύνης ώστε να τα βοηθήσουν να ανασυνθέσουν τι είχε συμβεί.
Όμως αυτά τα μοντέλα διαθέτουν ενσωματωμένα φίλτρα ασφαλείας, σχεδιασμένα να μπλοκάρουν οτιδήποτε μοιάζει με χακάρισμα, και για τα φίλτρα αυτά τα ίχνη μιας επίθεσης μοιάζουν ακριβώς με την ίδια την επίθεση.
Έτσι τα μοντέλα αρνήθηκαν να βοηθήσουν, μη μπορώντας να ξεχωρίσουν έναν χάκερ που επιχειρεί να προκαλέσει ζημιά από μια εταιρεία που προσπαθεί να αμυνθεί.
Αντιμέτωπη με αυτό το αδιέξοδο, η Hugging Face στράφηκε σε ένα κινεζικό μοντέλο με ανοικτά βάρη, το GLM 5.2 της Z.ai, το οποίο μπορούσε να τρέξει τοπικά, στα δικά της συστήματα, και το οποίο επεξεργάστηκε το υλικό χωρίς να το απορρίψει.
Ερευνητικά εργαστήρια από την Κίνα, όπως το DeepSeek και το Qwen της Alibaba, έχουν εξελιχθεί σε μερικές από τις πιο δημοφιλείς οικογένειες μοντέλων στην πλατφόρμα σε αριθμό λήψεων και, σύμφωνα με ορισμένες μετρήσεις, οι Κινέζοι προγραμματιστές ευθύνονται πλέον για μεγαλύτερο μέρος των λήψεων στο Hugging Face από ό,τι οι Αμερικανοί ομόλογοί τους.
Σοβαρή ανησυχία για την ασφάλεια
Η αποκάλυψη έρχεται σε μια περίοδο αυξανόμενης ανησυχίας για τις δυνατότητες κυβερνοεπίθεσης που διαθέτουν τα ισχυρά μοντέλα, η οποία οδήγησε τον πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ τον Ιούνιο να υπογράψει εκτελεστικό διάταγμα που θεσπίζει ένα πλαίσιο, βάσει του οποίου η ομοσπονδιακή κυβέρνηση μπορεί να εξετάζει για έως και έναν μήνα πριν από τη δημόσια διάθεσή τους τους κινδύνους για την εθνική ασφάλεια από τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης.
«Η τεχνητή νοημοσύνη επιταχύνει τον εντοπισμό και την εκμετάλλευση ευπαθειών», ανέφερε η OpenAI στην ανακοίνωσή της την Τρίτη. «Το βασικό συμπέρασμα από το περιστατικό αυτό είναι ότι η ασφάλεια και η προστασία των μοντέλων πρέπει να συμβαδίζουν με τις ταχέως εξελισσόμενες δυνατότητες».
Ο Ντελάνγκ δήλωσε ότι πέρασε τις τελευταίες 24 ώρες συνεργαζόμενος με την OpenAI «και πιστεύουμε ακράδαντα ότι δεν υπήρξε κακόβουλη πρόθεση από την πλευρά τους. Είναι πραγματικά εντυπωσιακό ότι όλα αυτά συνέβησαν αυτόνομα!».
Πρόσθεσε ότι «ίσως πρόκειται για το πρώτο περιστατικό αυτού του είδους».
Η OpenAI ανέφερε ότι η παραβίαση προκλήθηκε από έναν συνδυασμό των μοντέλων τεχνητής νοημοσύνης της, μεταξύ των οποίων το νέο GPT-5.6 Sol και ένα «ακόμη πιο ικανό» μοντέλο που εξακολουθεί να δοκιμάζεται εσωτερικά.
Σύμφωνα με την εταιρεία, η τεχνητή νοημοσύνη της χρησιμοποίησε υποκλαπέντα διαπιστευτήρια και εντόπισε μια μέχρι πρότινος άγνωστη ευπάθεια για να αποκτήσει πρόσβαση στους διακομιστές της Hugging Face.
«Κατέβαλε ακραίες προσπάθειες για να πετύχει έναν σχετικά περιορισμένο στόχο δοκιμής» και «βρήκε τρόπους να αποκτήσει πρόσβαση σε απόρρητες πληροφορίες που μπορούσε να χρησιμοποιήσει για να παραποιήσει την αξιολόγηση», σημείωσε η εταιρεία.