Οι ερευνητές δεν μπορούν με βεβαιότητα να πουν ποιος ευθύνεται, όμως τα στοιχεία οδηγούν σε πράκτορες της Google και της OpenAI που εφαρμόζουν επιθετικές τακτικές για τη συλλογή δεδομένων και την αποκάλυψη τρωτών σημείων
Ανεξέλεγκτοι πράκτορες τεχνητής νοημοσύνης επιχείρησαν να παραβιάσουν κυβερνητικές ιστοσελίδες των ΗΠΑ και του Καναδά, σύμφωνα με το μη κερδοσκοπικό ερευνητικό εργαστήριο Transluce.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Τα στοιχεία μάλιστα οδηγούν στο συμπέρασμα ότι πίσω από την απόπειρα κυβερνοεπιθέσεων ήταν πράκτορες της Google και της OpenAI.
Σε δύο συγκεκριμένα περιστατικά χρησιμοποιήθηκαν επιθετικές τακτικές για την πρόσβαση σε δημόσια διαθέσιμα δεδομένα από την Civil Rights Data Collection του Υπουργείου Παιδείας των ΗΠΑ και από την υπηρεσία Αρχείων του Καναδά, με τις απόπειρες τελικά να αποτυγχάνουν.
Η Transluce αναφέρει ότι τα περιστατικά εντάσσονται σε ένα «ευρύτερο μοτίβο αυτοματοποιημένων ροών εργασίας» που αποδίδονται σε πράκτορες τεχνητής νοημοσύνης. «Αυτές οι ροές εργασίας χρησιμοποιούν επιθετικές ή αμφιλεγόμενες τακτικές για να ανακτούν πληροφορίες από κυβερνητικές ιστοσελίδες, κάποιες φορές αξιοποιώντας τους ιστότοπους με τρόπους που δεν είχαν προβλεφθεί ή παραβιάζοντας ρητές πολιτικές χρήσης», δήλωσαν οι ερευνητές της οργάνωσης.
Στους στόχους περιλαμβάνονταν ο Λευκός Οίκος, τα Υπουργεία Πολέμου, Δικαιοσύνης και Εμπορίου, καθώς και τα Κέντρα Ελέγχου Λοιμόξεων και η αμερικανική Securities and Exchange Commission, μαζί με πολιτειακές υπηρεσίες στην Καλιφόρνια, το Μέριλαντ, το Ιλινόι, το Τέξας και τη Νέα Υόρκη.
Σε καμία από αυτές τις περιπτώσεις, πάντως, οι πράκτορες δεν κατάφεραν να αποκτήσουν πρόσβαση σε πληροφορίες που δεν ήταν ήδη δημόσια διαθέσιμες.
Τα πιο πρόσφατα ευρήματα έρχονται σε μια περίοδο που πληθαίνουν οι αναφορές για απροσδόκητη ή μη εξουσιοδοτημένη συμπεριφορά από πράκτορες τεχνητής νοημοσύνης.
Μόνο τον Σεπτέμβριο σημειώθηκαν δύο σημαντικά περιστατικά με ανεξέλεγκτους πράκτορες της OpenAI – στο πρώτο, πράκτορες διέρρευσαν προσωπικές εικόνες χρηστών σε δημόσιες ιστοσελίδες, και στο δεύτερο προσπάθησαν να αποκτήσουν πρόσβαση σε κυβερνητικά δεδομένα στις ΗΠΑ και στην Αυστραλία.
Η εταιρεία αποφάσισε έκτοτε να καθυστερήσει τη διάθεση του επόμενης γενιάς μοντέλου Astra, μετά τις προειδοποιήσεις ερευνητών ασφάλειας για «κρίσιμες» δυνατότητες στον τομέα της κυβερνοασφάλειας και απρόβλεπτη, μη εξουσιοδοτημένη συμπεριφορά.
Απόπειρες σε ΗΠΑ και Καναδά
Πράκτορες επιτέθηκαν στο Υπουργείο Παιδείας των ΗΠΑ στις 17 Ιουνίου ενώ αναζητούσαν στατιστικά στοιχεία για σχολεία.
Η Transluce αναφέρει ότι οι πράκτορες υπέβαλαν πάνω από 200.000 αιτήματα προς τον ιστότοπο, συμπεριλαμβανομένης μιας αποτυχημένης απόπειρας να στείλουν σκόπιμα εσφαλμένα δεδομένα ώστε να δοκιμάσουν τα τρωτά σημεία της βάσης δεδομένων του ιστότοπου και, στη συνέχεια, να παρακάμψουν τα συνηθισμένα φίλτρα.
Οι ερευνητές διαπίστωσαν ότι τα δεδομένα που ήταν αποθηκευμένα στον ιστότοπο φαίνεται να αντιστοιχούσαν σε μια εργασία αναζήτησης στο διαδίκτυο στο benchmark DeepSearchQA της Google, κάτι που, όπως λένε, υποδηλώνει ότι οι πράκτορες δεν είχαν λάβει ρητή εντολή να πραγματοποιήσουν επιθέσεις hacking, αλλά «αξιολογούνταν με βάση την ικανότητά τους να ανακτούν με επιτυχία συγκεκριμένες, εξειδικευμένες πληροφορίες από το διαδίκτυο».
Η Transluce γνωστοποίησε την απόπειρα παραβίασης στο Υπουργείο Παιδείας των ΗΠΑ τον Σεπτέμβριο, με το υπουργείο να απαντά ότι δεν είχε διαπιστώσει οποιαδήποτε επίπτωση στις υπηρεσίες του.
Πράκτορες τεχνητής νοημοσύνης πραγματοποίησαν παρόμοιες προσπάθειες στην υπηρεσία Αρχείων του Καναδά σε δύο ξεχωριστά περιστατικά, στις 28 Μαΐου και στη συνέχεια στις 9 Ιουνίου.
Σύμφωνα με δεδομένα που εντόπισε το επίσημο πορτογαλικό διαδικτυακό αρχείο Arquivo.pt, οι πράκτορες υπέβαλαν 899 αιτήματα «συλλογής - έρευνας» για δεδομένα που αφορούσαν αρχεία διαζυγίων της περιόδου 1905-1911.
Από τα 899 αιτήματα, τα 13 περιείχαν "πακέτα" επίθεσης για να δοκιμάσουν την ευπάθεια του ιστότοπου. Και πάλι, καμία από τις προσπάθειες δεν ήταν επιτυχής.
Η Transluce αναφέρει ότι δεν μπορεί να «αποδώσει με βεβαιότητα» τις απόπειρες στην OpenAI, ωστόσο οι τακτικές ήταν συνεπείς με δραστηριότητα που είχε προηγουμένως αποδώσει στην εταιρεία.
Η οργάνωση ανέφερε αυτά τα περιστατικά στην κυβέρνηση του Καναδά νωρίτερα αυτή την εβδομάδα.
Το Κέντρο Κυβερνοασφάλειας του Καναδά εξέδωσε σχετική ανακοίνωση (πηγή στα Αγγλικά), σημειώνοντας ότι «δεν υπάρχουν ενδείξεις ότι τα κυβερνητικά συστήματα έχουν παραβιαστεί μέχρι στιγμής».
Η Transluce δημοσιοποίησε τα ευρήματά της, έπειτα από έρευνα που πραγματοποίησε αξιοποιώντας πληροφορίες από το Arquivo.pt και το urlquery.net, τη δωρεάν διαδικτυακή υπηρεσία ασφαλείας για σάρωση URL και domains.