Οι ερευνητές δεν μπορούν με βεβαιότητα να πουν ποιος ευθύνεται, όμως τα στοιχεία δείχνουν σε ανεξέλεγκτους πράκτορες της Google και της OpenAI που εφαρμόζουν επιθετικές τακτικές για τη συλλογή δεδομένων και τον έλεγχο των αδυναμιών τους.
Ανεξέλεγκτοι πράκτορες τεχνητής νοημοσύνης προσπάθησαν να παραβιάσουν κυβερνητικές ιστοσελίδες των ΗΠΑ και του Καναδά, σύμφωνα με το μη κερδοσκοπικό ερευνητικό εργαστήριο Transluce, με στοιχεία που υποδεικνύουν ότι πράκτορες της Google και της OpenAI ήταν υπεύθυνοι.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Δύο συγκεκριμένα περιστατικά έδειξαν επιθετικές τεχνικές που χρησιμοποιήθηκαν για την πρόσβαση σε δημόσια διαθέσιμα δεδομένα από την Civil Rights Data Collection του Υπουργείου Παιδείας των ΗΠΑ και από τη Library and Archives Canada, μια ομοσπονδιακή υπηρεσία του Καναδά, με τις προσπάθειες τελικά να αποτυγχάνουν να παραβιάσουν οποιαδήποτε δεδομένα.
Η Transluce αναφέρει ότι τα περιστατικά εντάσσονται σε ένα «ευρύτερο μοτίβο αυτοματοποιημένων ροών εργασίας» που αποδίδονται σε πράκτορες τεχνητής νοημοσύνης. «Αυτές οι ροές εργασίας χρησιμοποιούν επιθετικές ή αμφιλεγόμενες τεχνικές για να ανακτούν πληροφορίες από κυβερνητικές ιστοσελίδες, κάποιες φορές αξιοποιώντας τους ιστότοπους με τρόπους που δεν είχαν προβλεφθεί ή παραβιάζοντας ρητές πολιτικές χρήσης», δήλωσαν οι ερευνητές της οργάνωσης.
Στους επιπλέον στόχους περιλαμβάνονταν ο Λευκός Οίκος, τα Υπουργεία Πολέμου, Δικαιοσύνης και Εμπορίου, καθώς και τα Centers for Disease Control και η αμερικανική Securities and Exchange Commission, μαζί με υπηρεσίες πολιτειών στην Καλιφόρνια, το Μέριλαντ, το Ιλινόι, το Τέξας και τη Νέα Υόρκη.
Σε καμία από αυτές τις περιπτώσεις, πάντως, οι πράκτορες δεν απέκτησαν πρόσβαση σε πληροφορίες που δεν ήταν ήδη δημόσια διαθέσιμες.
Τα πιο πρόσφατα ευρήματα έρχονται σε μια περίοδο που πληθαίνουν οι αναφορές για απροσδόκητη ή μη εξουσιοδοτημένη συμπεριφορά από πράκτορες τεχνητής νοημοσύνης.
Μόνο τον Σεπτέμβριο σημειώθηκαν δύο σημαντικά περιστατικά με ανεξέλεγκτους πράκτορες της OpenAI – στο πρώτο, πράκτορες διέρρευσαν προσωπικές εικόνες χρηστών σε δημόσιες ιστοσελίδες, και στο δεύτερο προσπάθησαν να αποκτήσουν πρόσβαση σε κυβερνητικά δεδομένα στις ΗΠΑ και στην Αυστραλία.
Η εταιρεία αποφάσισε έκτοτε να καθυστερήσει τη διάθεση του επόμενης γενιάς μοντέλου Astra, μετά τις προειδοποιήσεις ερευνητών ασφάλειας για «κρίσιμες» δυνατότητες στον τομέα της κυβερνοασφάλειας και απρόβλεπτη, μη εξουσιοδοτημένη συμπεριφορά.
Προσπάθειες σε ΗΠΑ και Καναδά
Πράκτορες επιτέθηκαν στο Υπουργείο Παιδείας των ΗΠΑ στις 17 Ιουνίου ενώ αναζητούσαν στατιστικά στοιχεία για σχολεία.
Η Transluce αναφέρει ότι οι πράκτορες υπέβαλαν πάνω από 200.000 αιτήματα προς τον ιστότοπο, συμπεριλαμβανομένης μιας αποτυχημένης προσπάθειας να στείλουν σκόπιμα εσφαλμένα δεδομένα ώστε να δοκιμάσουν την ευπάθεια της βάσης δεδομένων του ιστότοπου και, στη συνέχεια, να παρακάμψουν τα συνηθισμένα φίλτρα.
Οι ερευνητές διαπίστωσαν ότι τα δεδομένα που ήταν αποθηκευμένα στον ιστότοπο φαίνεται να αντιστοιχούσαν σε μια εργασία αναζήτησης στο διαδίκτυο στο benchmark DeepSearchQA της Google, κάτι που, όπως λένε, υποδηλώνει ότι οι πράκτορες δεν είχαν λάβει ρητή εντολή να πραγματοποιήσουν επιθέσεις hacking, αλλά «αξιολογούνταν με βάση την ικανότητά τους να ανακτούν με επιτυχία συγκεκριμένες, εξειδικευμένες πληροφορίες από το διαδίκτυο».
Η Transluce γνωστοποίησε την απόπειρα παραβίασης στο Υπουργείο Παιδείας των ΗΠΑ τον Σεπτέμβριο, με το υπουργείο να απαντά ότι δεν είχε διαπιστώσει οποιαδήποτε επίπτωση στις υπηρεσίες του.
Πράκτορες τεχνητής νοημοσύνης πραγματοποίησαν παρόμοιες προσπάθειες στη Library and Archives Canada σε δύο ξεχωριστά περιστατικά, στις 28 Μαΐου και στη συνέχεια στις 9 Ιουνίου.
Σύμφωνα με δεδομένα που εντόπισε το επίσημο πορτογαλικό διαδικτυακό αρχείο Arquivo.pt, οι πράκτορες υπέβαλαν 899 αιτήματα «collection-search» για δεδομένα που αφορούσαν αρχεία διαζυγίων της περιόδου 1905-1911.
Από τα 899 αιτήματα, τα 13 περιείχαν πακέτα επίθεσης για να δοκιμάσουν την ευπάθεια του ιστότοπου. Και πάλι, καμία από τις προσπάθειες δεν ήταν επιτυχής.
Η Transluce αναφέρει ότι δεν μπορεί να «αποδώσει με βεβαιότητα» τις απόπειρες στην OpenAI, ωστόσο οι τακτικές ήταν συνεπείς με δραστηριότητα που είχε προηγουμένως αποδώσει στην εταιρεία.
Η οργάνωση ανέφερε αυτά τα περιστατικά στην κυβέρνηση του Καναδά νωρίτερα αυτή την εβδομάδα.
Το Canadian Centre for Cyber Security εξέδωσε σχετική ανακοίνωση (πηγή στα Αγγλικά) σε απάντηση, σημειώνοντας ότι «δεν υπάρχουν ενδείξεις ότι τα κυβερνητικά συστήματα έχουν παραβιαστεί μέχρι στιγμής».
Η Transluce δημοσιοποίησε χθες τα ευρήματά της, έπειτα από έρευνα που πραγματοποίησε αξιοποιώντας πληροφορίες από το Arquivo.pt και το urlquery.net, τη δωρεάν διαδικτυακή υπηρεσία ασφαλείας για σάρωση URL και domains.