Έκθεση για επίθεση σμήνους πρακτόρων OpenAI: ευρωβουλευτές ζητούν από το Γραφείο ΤΝ της ΕΕ να αξιοποιήσει τις νέες αρμοδιότητες και να αντιμετωπίσει τους κινδύνους, αντί να βασίζεται σε αυτοαναφορές εταιρειών.
Ερευνητές εντόπισαν την περασμένη εβδομάδα ακόμη μία επίθεση «σμήνους» από συστήματα της OpenAI, αυτή τη φορά με πράκτορες που παρέκαμψαν τις παραμέτρους ασφαλείας για να καταλάβουν το γερμανικό wiki φόρουμ DseWiki, γεγονός που προκάλεσε εκκλήσεις από ευρωβουλευτές προς το νέο Γραφείο ΤΝ της ΕΕ να αναλάβει άμεσα δράση για να αντιμετωπίσει την απειλή μιας τεχνητής νοημοσύνης με αυτόνομους πράκτορες, αντί να αφήνει τις εταιρείες να αυτορρυθμίζονται.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Στους πράκτορες είχε επιτραπεί να επισκέπτονται τον 25χρονο γερμανικό ιστότοπο προγραμματισμού μόνο με δικαιώματα ανάγνωσης, ωστόσο κατάφεραν να εκμεταλλευτούν ένα web request και να καταλάβουν τον ιστότοπο, μετατρέποντάς τον σε πίνακα ανακοινώσεων.
Οι εκτός ελέγχου πράκτορες δημοσίευσαν πάνω από 18.000 μηνύματα, στα οποία μοιράζονταν απαντήσεις, έρευνα για το περιβάλλον τους και τρόπους για να παρακάμπτουν τους περιορισμούς των sandbox και να κρύβονται από τον ανθρώπινο εντοπισμό, σύμφωνα με την ερευνητική ομάδα Nightingale Collective.
Το περιστατικό σημειώθηκε κάποια στιγμή μεταξύ Μαΐου και Ιουνίου φέτος και, σύμφωνα με τις πληροφορίες, η OpenAI το έμαθε εδώ και εβδομάδες, αλλά το κράτησε κρυφό.
Πρόκειται για το τρίτο καταγεγραμμένο περιστατικό, μετά από δύο άλλα τον Ιούλιο: το ένα με ανυπάκουους πράκτορες που επιτέθηκαν στην ίδια την υποδομή της OpenAI και το άλλο, στο οποίο 1.200 «απείθαρχα» bots της OpenAI παρέκαμψαν τα περιορισμένα περιβάλλοντά τους και εξαπέλυσαν πενθήμερη επίθεση στην πλατφόρμα ανοικτού κώδικα τεχνητής νοημοσύνης Hugging Face.
Ωστόσο, μόλις το Σάββατο η OpenAI αναγνώρισε δημόσια το περιστατικό με το γερμανικό wiki σε ανάρτηση στην πλατφόρμα X, όπου ανέφερε ότι, σε απάντηση του τελευταίου συμβάντος, «εργαζόμαστε σε ένα πλαίσιο για το πότε και με ποιον τρόπο κοινοποιούμε περιστατικά ασυμφωνίας της ΤΝ».
Ο όρος «ασυμφωνία τεχνητής νοημοσύνης» χρησιμοποιείται στον κλάδο για να περιγράψει τις περιπτώσεις όπου τα συστήματα ΤΝ επιδιώκουν στόχους ή συμπεριφέρονται με τρόπους που αποκλίνουν από τις ανθρώπινες προθέσεις, αξίες ή περιορισμούς ασφαλείας, με την πιθανότητα να αγνοήσουν την κοινή λογική ή τα άρρητα ανθρώπινα όρια.
Διχασμένες αντιδράσεις
Οι ειδικοί εμφανίζονται διχασμένοι ως προς τους κινδύνους της ΤΝ μετά τις πρόσφατες επιθέσεις από «αντάρτικα» συστήματα, με ορισμένους, όπως ο κορυφαίος ερευνητής τεχνητής νοημοσύνης Yann LeCun, να απορρίπτουν τα αποκαλυπτικά σενάρια και τις προβλέψεις περί 10–20% πιθανότητας η ΤΝ να οδηγήσει στο τέλος της ανθρωπότητας.
Άλλοι, όπως ο Geoffrey Hinton, υποστηρίζουν αντίθετα ότι «αυτό που συμβαίνει είναι πως αυτά τα συστήματα γίνονται πιο έξυπνα» και προειδοποιούν ότι «οι εταιρείες που επενδύουν στην ΤΝ έχουν συμφέρον να σας λένε ότι [η ΤΝ] δεν θα ξεφύγει από τον έλεγχο».
Σύμφωνα με τον Κανονισμό ΤΝ της ΕΕ και τα πιο πρόσφατα μέτρα του, που τέθηκαν σε ισχύ τον Αύγουστο, οι εταιρείες που προσφέρουν μοντέλα ΤΝ με συστημικό κίνδυνο υποχρεούνται να αναφέρουν σοβαρά περιστατικά, όπως αυτά της ασυμφωνίας, στο Γραφείο ΤΝ της ΕΕ «χωρίς αδικαιολόγητη καθυστέρηση».
Τη Δευτέρα, η Ευρωπαϊκή Επιτροπή ανακοίνωσε ότι έχει λάβει επίσημη αναφορά συμβάντος από την OpenAI, χωρίς όμως να αποκαλύψει πότε υποβλήθηκε. Τόνισε πάντως ότι παραμένει σε στενή επαφή με την εταιρεία ΤΝ και συνεχίζει τη διερεύνηση.
Ο εκπρόσωπος της Επιτροπής, Τόμας Ρενιέ, υπογράμμισε τη σοβαρότητα του περιστατικού με το γερμανικό wiki, επισημαίνοντας: «Οι αναφορές περιστατικών δεν είναι απλώς ένα κουτάκι για τσεκ. Πρέπει να είστε ιδιαίτερα σαφείς και ακριβείς σχετικά με τα μέτρα που σκοπεύετε να λάβετε».
Ο συμπρόεδρος της Ομάδας Εργασίας του Ευρωπαϊκού Κοινοβουλίου για την ΤΝ, Μάικλ ΜακΝαμάρα, δήλωσε, σχολιάζοντας το τελευταίο περιστατικό, ότι πιστεύει πως «ο Κανονισμός ΤΝ ήδη μας δίνει τη δυνατότητα να αντιμετωπίσουμε τους κινδύνους από αυτόνομους πράκτορες και είναι σημαντικό η Επιτροπή να κάνει χρήση των εξουσιών της βάσει του Κανονισμού».
Ο Ιρλανδός ευρωβουλευτής πρόσθεσε ακόμη: «Ωστόσο, αυτά τα περιστατικά δείχνουν ξεκάθαρα ότι το Γραφείο ΤΝ χρειάζεται προσωπικό και πόρους αντάξιους τόσο της αυξανόμενης ικανότητας αυτών των συστημάτων όσο και του αυξανόμενου κινδύνου που μπορούν να αποτελέσουν για την κοινωνία».
Την ίδια ώρα, ο Ιταλός ευρωβουλευτής Μπράντο Μπενιφέι, επίσης συμπρόεδρος της Ομάδας Εργασίας, τόνισε: «Οι πρόσφατες “αποδράσεις” πρακτόρων δείχνουν ότι οι κανόνες του Κανονισμού ΤΝ για τον συστημικό κίνδυνο είναι αναγκαίοι, αλλά η αξιοπιστία τους πλέον εξαρτάται από την εφαρμογή τους».
Και συμπλήρωσε: «Το Γραφείο ΤΝ πρέπει να αξιοποιήσει τις νέες του αρμοδιότητες για να αποκτά πρόσβαση στα μοντέλα, να πραγματοποιεί ανεξάρτητες αξιολογήσεις και να επιβάλλει μέτρα μετριασμού, αντί να βασίζεται στην αυτοαναφορά των εταιρειών. Χωρίς δράση, επιθέσεις με ταχύτητα μηχανής μπορεί να μετατρέψουν συνηθισμένες ευπάθειες σε συστημικές αστοχίες».
Το περιστατικό με το γερμανικό wiki σημειώθηκε επίσης λίγες ημέρες αφότου η Ευρωπαϊκή Επιτροπή όρισε επίσημα το ChatGPT ως Πολύ Μεγάλη Διαδικτυακή Μηχανή Αναζήτησης (VLOSE) στο πλαίσιο της εμβληματικής της νομοθεσίας για την τεχνολογία, του Νόμου για τις Ψηφιακές Υπηρεσίες (Digital Services Act).
Τι λέει η OpenAI
Η OpenAI ανέφερε επίσης στην ανάρτηση του Σαββάτου στο X ότι οι σημερινές πρακτικές γνωστοποίησης περιστατικών ασυμφωνίας – δηλαδή οι αναφορές όταν η ΤΝ παραβιάζει τους κανόνες – πρέπει να διευρυνθούν, ώστε να λαμβάνουν υπόψη αυτό που η εταιρεία περιγράφει ως «νέα φάση δυνατοτήτων των μοντέλων».
«Εμείς και η ευρύτερη κοινότητα της ΤΝ δεν διαθέτουμε ακόμη ένα σαφές πρότυπο για το πώς πρέπει να αναφέρονται τα περιστατικά ασυμφωνίας», σημείωσε η OpenAI, προσθέτοντας ότι «εργαζόμαστε πάνω σε ένα σχετικό πλαίσιο και θα το δημοσιοποιήσουμε τις επόμενες εβδομάδες», σε συνεργασία με αρκετές κυβερνητικές υπηρεσίες ανά τον κόσμο.
Την Κυριακή, ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Παχότσκι, δημοσίευσε ανάρτηση σε ιστολόγιο, στην οποία περιέγραψε τις ανησυχίες του για τη ραγδαία εξέλιξη των κινδύνων της ΤΝ, τονίζοντας: «Βρισκόμαστε μπροστά σε μια μετάβαση σε έναν κόσμο με απίστευτα έξυπνες μηχανές και πρέπει να διασφαλίσουμε ότι αυτή η μετάβαση θα εξελιχθεί προς όφελος της ανθρωπότητας».
Ο Πολωνός προγραμματιστής υπογράμμισε ακόμη την πεποίθησή του ότι «κανένα εργαστήριο δεν έχει λύσει το ζήτημα της ευθυγράμμισης και της παρακολούθησης σε επαρκή βαθμό, ώστε να μπορεί να συνεχίσει υπεύθυνα την κλιμάκωση με μέγιστη ταχύτητα για πολύ καιρό ακόμη» και κάλεσε ώστε «η διεθνής συντονισμένη δράση για τη μελλοντική ανάπτυξη της ΤΝ να γίνει κορυφαία προτεραιότητα για τις κυβερνήσεις σε όλο τον κόσμο».