Νέα αναφορά για επίθεση από σμήνος πρακτόρων OpenAI σε γερμανικό wiki ωθεί την εταιρεία να παραδεχθεί ότι πρέπει να βελτιώσει την καταγραφή περιστατικών.
Ερευνητές τεχνητής νοημοσύνης ανακάλυψαν την περασμένη εβδομάδα ότι ένα σμήνος από πράκτορες (agents) της OpenAI παρέκαμψε τις παραμέτρους ασφαλείας και κατέλαβε το γερμανικό wiki φόρουμ DseWiki, προκειμένου να συνεργαστούν μεταξύ τους.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Στους πράκτορες είχε δοθεί άδεια να επισκεφθούν τον 25 ετών γερμανικό ιστότοπο προγραμματισμού μόνο με δικαιώματα ανάγνωσης, αλλά κατάφεραν να εκμεταλλευτούν ένα web request και να καταλάβουν τον ιστότοπο, μετατρέποντάς τον σε πίνακα ανακοινώσεων.
Οι ανεξέλεγκτοι πράκτορες ανήρτησαν περισσότερα από 18.000 μηνύματα, μοιραζόμενοι απαντήσεις, έρευνα για το περιβάλλον τους και τρόπους για να παρακάμπτουν τους περιορισμούς του sandbox και να κρύβονται από τον ανθρώπινο εντοπισμό, σύμφωνα με την ερευνητική ομάδα Nightingale Collective.
Το συμβάν σημειώθηκε κάποια στιγμή μεταξύ Μαΐου και Ιουνίου φέτος και εκτιμάται ότι η OpenAI το έμαθε πριν από εβδομάδες, αλλά το κράτησε μυστικό.
Πρόκειται για το τρίτο καταγεγραμμένο περιστατικό, μετά από δύο άλλα τον Ιούλιο: το ένα αφορούσε ανεξέλεγκτους agents που επιτέθηκαν στην ίδια την υποδομή της OpenAI και το άλλο 1.200 ανεξέλεγκτα bots της OpenAI, τα οποία παρέκαμψαν τα περιορισμένα περιβάλλοντά τους και εξαπέλυσαν πενθήμερη επίθεση στην πλατφόρμα τεχνητής νοημοσύνης ανοικτού κώδικα Hugging Face.
Ωστόσο, μόλις το Σάββατο η OpenAI αναγνώρισε δημόσια το περιστατικό με το γερμανικό wiki σε ανάρτηση στην πλατφόρμα X, όπου ανέφερε ότι, σε απάντηση του τελευταίου περιστατικού, «εργαζόμαστε σε ένα πλαίσιο για το πότε και πώς κοινοποιούμε περιστατικά μη ευθυγράμμισης της ΤΝ».
Ο όρος «μη ευθυγράμμιση της ΤΝ» χρησιμοποιείται στον κλάδο για να περιγράψει περιπτώσεις όπου τα συστήματα τεχνητής νοημοσύνης επιδιώκουν στόχους ή συμπεριφέρονται με τρόπους που αποκλίνουν από τις ανθρώπινες προθέσεις, αξίες ή περιορισμούς ασφαλείας, με πιθανότητα να αγνοούν την κοινή λογική ή άτυπα ανθρώπινα όρια.
Διχασμένες αντιδράσεις
Οι ειδικοί εμφανίζονται διχασμένοι ως προς τους κινδύνους της ΤΝ υπό το φως των πρόσφατων επιθέσεων από ανεξέλεγκτα συστήματα, με ορισμένους, όπως ο κορυφαίος ερευνητής τεχνητής νοημοσύνης Yann LeCun, να απορρίπτουν τα αποκαλυπτικά σενάρια και τις προβλέψεις για πιθανότητα 10-20% ότι η ΤΝ θα θέσει τέλος στην ανθρωπότητα.
Άλλοι, όπως ο Geoffrey Hinton, υποστηρίζουν ότι «αυτό που συμβαίνει είναι πως αυτά τα συστήματα γίνονται όλο και πιο έξυπνα» και προειδοποιούν ότι «οι εταιρείες που επενδύουν στην ΤΝ έχουν συμφέρον να σας λένε ότι [η ΤΝ] δεν θα ξεφύγει από τον έλεγχο».
Σύμφωνα με τον Κανονισμό ΤΝ της ΕΕ και τα πιο πρόσφατα μέτρα του, που τέθηκαν σε ισχύ τον Αύγουστο, οι εταιρείες που προσφέρουν μοντέλα τεχνητής νοημοσύνης με συστημικό κίνδυνο υποχρεούνται να αναφέρουν σοβαρά περιστατικά, όπως τα περιστατικά μη ευθυγράμμισης, στο Γραφείο ΤΝ της ΕΕ «χωρίς αδικαιολόγητη καθυστέρηση».
Τη Δευτέρα, η Ευρωπαϊκή Επιτροπή ανακοίνωσε ότι έλαβε επίσημη αναφορά συμβάντος από την OpenAI, χωρίς όμως να αποκαλύψει πότε υποβλήθηκε. Η Επιτροπή παραμένει σε στενή επαφή με την εταιρεία τεχνητής νοημοσύνης και συνεχίζει την έρευνα.
Ο εκπρόσωπος της Επιτροπής, Thomas Regnier, υπογράμμισε τη σοβαρότητα του συμβάντος με το γερμανικό wiki, δηλώνοντας: «Οι αναφορές συμβάντων δεν είναι απλώς ένα κουτάκι για τικαρίσματα· πρέπει να είστε ιδιαίτερα ακριβείς και σαφείς ως προς τα μέτρα που σκοπεύετε να λάβετε».
Το περιστατικό με το γερμανικό wiki σημειώνεται επίσης λίγες ημέρες αφότου η Ευρωπαϊκή Επιτροπή όρισε επισήμως το ChatGPT ως Πολύ Μεγάλη Διαδικτυακή Μηχανή Αναζήτησης (VLOSE), στο πλαίσιο της εμβληματικής νομοθεσίας της για την τεχνολογία, του Νόμου για τις Ψηφιακές Υπηρεσίες (Digital Services Act).
Ο συμπρόεδρος της Ομάδας Εργασίας του Ευρωπαϊκού Κοινοβουλίου για την ΤΝ, Michael McNamara, δήλωσε, με αφορμή το τελευταίο περιστατικό, ότι πιστεύει πως «ο Κανονισμός ΤΝ μάς δίνει ήδη τη δυνατότητα να αντιμετωπίζουμε τους κινδύνους από αυτόνομους agents και είναι σημαντικό η Επιτροπή να χρησιμοποιήσει πλήρως τις εξουσίες που της παρέχει».
Ο Ιρλανδός ευρωβουλευτής πρόσθεσε: «Ωστόσο, αυτά τα περιστατικά καταδεικνύουν ξεκάθαρα ότι το Γραφείο ΤΝ χρειάζεται προσωπικό και πόρους που να ανταποκρίνονται τόσο στις αυξανόμενες δυνατότητες αυτών των συστημάτων όσο και στον ολοένα μεγαλύτερο κίνδυνο που μπορούν να αποτελέσουν για την κοινωνία».
Τι λέει η OpenAI
Η OpenAI ανέφερε επίσης στην ανάρτηση του Σαββάτου στο X ότι οι τρέχουσες πρακτικές γνωστοποίησης περιστατικών μη ευθυγράμμισης – δηλαδή η αναφορά περιπτώσεων όπου η ΤΝ παραβίασε τους κανόνες – πρέπει να διευρυνθούν, ώστε να λαμβάνουν υπόψη αυτό που περιγράφει ως «νέα φάση δυνατοτήτων των μοντέλων».
«Εμείς και η ευρύτερη κοινότητα της ΤΝ δεν διαθέτουμε ακόμη ένα σαφές πρότυπο για το πώς πρέπει να αναφέρονται περιστατικά μη ευθυγράμμισης», σημείωσε η OpenAI, προσθέτοντας ότι «εργαζόμαστε σε ένα σχετικό πλαίσιο και θα το μοιραστούμε τις επόμενες εβδομάδες», σε συνεργασία με διάφορες κρατικές αρχές σε όλο τον κόσμο.
Την Κυριακή, ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, δημοσίευσε ανάρτηση σε ιστολόγιο, στην οποία εξέθεσε τις ανησυχίες του για τη ραγδαία εξέλιξη των κινδύνων που συνδέονται με την ΤΝ, σημειώνοντας: «Βρισκόμαστε αντιμέτωποι με μια μετάβαση σε έναν κόσμο με απίστευτα έξυπνες μηχανές και πρέπει να διασφαλίσουμε ότι αυτή η μετάβαση θα εξελιχθεί προς όφελος της ανθρωπότητας».
Ο Πολωνός προγραμματιστής υπολογιστών εξέφρασε επίσης την πεποίθησή του ότι «κανένα εργαστήριο δεν έχει λύσει την ευθυγράμμιση και την εποπτεία σε επαρκή βαθμό ώστε να μπορεί να συνεχίσει με υπεύθυνο τρόπο την κλιμάκωση με μέγιστη ταχύτητα για πολύ ακόμη» και τόνισε ότι «η διεθνής συντονισμένη δράση για τη μελλοντική ανάπτυξη της ΤΝ πρέπει να αποτελέσει ύψιστη προτεραιότητα για τις κυβερνήσεις σε όλο τον κόσμο».