Η ΕΕ ερευνά τις OpenAI και Anthropic για πράκτορες τεχνητής νοημοσύνης που χάκαραν τρίτους, εντείνοντας τα ερωτήματα αν ο AI Act καλύπτει μοντέλα που ξεφεύγουν από το περιβάλλον δοκιμών.
Η Ευρωπαϊκή Επιτροπή ετοιμάζεται να επιβάλει τους νέους κανόνες της στα κορυφαία εργαστήρια τεχνητής νοημοσύνης, μετά από μια σειρά περιστατικών, όπως δήλωσε η επικεφαλής ψηφιακής πολιτικής της ΕΕ Χένα Βιρκούνεν. Ωστόσο, η εφαρμογή του κανονιστικού πλαισίου μόνο απλή υπόθεση δεν είναι και αυτές οι πρώτες υποθέσεις αναμένεται να δημιουργήσουν σημαντικά προηγούμενα.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Το AI Office της Επιτροπής διερευνά τις OpenAI και Anthropic, μετά το γεγονός ότι πράκτορες τεχνητής νοημοσύνης παραβίασαν αυτόνομα συστήματα άλλων οργανισμών· πρόκειται για την πρώτη δοκιμή των ορίων των κανόνων της ΕΕ για την ΤΝ.
«Το AI Office μας έχει ξεκινήσει να εφαρμόζει αυτούς τους κανόνες και έχει στείλει αιτήματα παροχής πληροφοριών, που αφορούν ζητήματα όπως η ασφάλεια, η εξωτερική αξιολόγηση και η παρακολούθηση του τρόπου με τον οποίο χρησιμοποιούνται τα μοντέλα», δήλωσε η εκτελεστική αντιπρόεδρος της Επιτροπής για την Τεχνολογική Κυριαρχία Χένα Βιρκούνεν στο International AI Summit στο Δουβλίνο την Τετάρτη.
Οι έρευνες αφορούν ένα «πρωτοφανές» περιστατικό, κατά το οποίο ένας πράκτορας της OpenAI ξέφυγε από το δοκιμαστικό περιβάλλον και χάκαρε τον ανταγωνιστή Hugging Face, καθώς και ένα συμβάν όπου ένα πρόσφατο μοντέλο της Anthropic απέκτησε «μη εξουσιοδοτημένη πρόσβαση» σε τρεις εξωτερικούς οργανισμούς.
Και τα δύο περιστατικά σημειώθηκαν μέσα στο καλοκαίρι. Το AI Office έστειλε τα αιτήματα αφού έκρινε ότι τα έγγραφα που είχαν δημοσιοποιήσει οικειοθελώς οι δύο εταιρείες ήταν ανεπαρκή.
Από τον Αύγουστο, το AI Office διαθέτει εξουσίες επιβολής βάσει του AI Act, του ολοκληρωμένου νόμου της ΕΕ για την τεχνητή νοημοσύνη, ο οποίος καλύπτει και τα πιο ισχυρά μοντέλα και υποχρεώνει τους δημιουργούς τους να εφαρμόζουν μέτρα περιορισμού των κινδύνων.
Ωστόσο, νομικοί αμφισβητούν την αρμοδιότητα της Επιτροπής να διερευνήσει τις υποθέσεις. Τα περιστατικά σημειώθηκαν κατά τη φάση των δοκιμών, πριν τα μοντέλα διατεθούν στην αγορά της ΕΕ, και κατά συνέπεια, όπως υποστηρίζουν, ο AI Act δεν εφαρμόζεται.
«Ο AI Act πολύ ξεκάθαρα δεν εφαρμόζεται στη δραστηριότητα ανάπτυξης και δοκιμών. Ποτέ δεν προέβλεψε τα προβλήματα που βλέπουμε τώρα με την απόδραση απείθαρχων πρακτόρων κατά τη δοκιμή. Είναι κάπως τραβηγμένο να λέμε ότι ένας πράκτορας τέθηκε σε λειτουργία, αν δραπετεύει από το δοκιμαστικό περιβάλλον κατά τη διάρκεια της ανάπτυξης», δήλωσε στο Euronews ο Μπάρι Σκάνελ, εταίρος στο δικηγορικό γραφείο William Fry.
Ο νόμος περιλαμβάνει εξαίρεση για δραστηριότητες έρευνας και ανάπτυξης, που καλύπτει την έρευνα, τις δοκιμές και την ανάπτυξη. Η Επιτροπή προωθεί μια ευρύτερη ερμηνεία, η οποία θα επέτρεπε στο AI Office να εποπτεύει και τη φάση ανάπτυξης υπό ορισμένες προϋποθέσεις.
«Δεν θα επιβάλουμε κανόνες στη φάση των δοκιμών. Αλλά αν το μοντέλο ΤΝ δραπετεύσει από το δοκιμαστικό περιβάλλον και στη συνέχεια έχει αντίκτυπο στην αγορά της ΕΕ, όπως συνέβη με την Hugging Face, τότε ο AI Act καθίσταται εφαρμόσιμος», ανέφερε στο Euronews αξιωματούχος της Επιτροπής υπό καθεστώς ανωνυμίας.
Η Hugging Face έχει παγκόσμια δραστηριότητα, φιλοξενώντας μοντέλα ΤΝ και σύνολα δεδομένων που χρησιμοποιούν οι δημιουργοί σε όλο τον κόσμο. Ως αποτέλεσμα, το περιστατικό με την OpenAI επηρέασε και πελάτες στην ΕΕ.
Η Επιτροπή παρομοιάζει το συμβάν με ιό που διαφεύγει από εργαστήριο: η εταιρεία προφανώς απέτυχε να εφαρμόσει επαρκή μέτρα περιορισμού των κινδύνων και προκαλεί ζημιά σε άλλους.
Την περασμένη εβδομάδα, η Βιρκούνεν συναντήθηκε με το Scientific Panel, μια συμβουλευτική ομάδα ανεξάρτητων ειδικών, για να συζητήσουν τις τεχνικές εξελίξεις πίσω από τον πολλαπλασιασμό τέτοιων περιστατικών τους τελευταίους μήνες.
Οι ειδικοί εντόπισαν ανησυχητικές τάσεις, σύμφωνα με πληροφορίες του Euronews. Τα κορυφαία εργαστήρια επενδύουν σε ολοένα πιο ισχυρά μοντέλα, χωρίς επαρκείς πρακτικές κυβερνοασφάλειας και ασφάλειας, γεγονός που εγείρει φόβους ότι πολλά περιστατικά μπορεί να μην δημοσιοποιούνται.
Ακόμη πιο ανησυχητικό είναι ότι όσο πιο ικανά γίνονται τα μοντέλα, τόσο περισσότερο τείνουν να απομακρύνονται από τους αρχικούς στόχους σχεδιασμού. Οι μηχανισμοί εποπτείας γίνονται λιγότερο αποτελεσματικοί και τα μοντέλα μπορεί ακόμη και να εξαπατούν κατά την αξιολόγηση.
Για τμήμα της κοινότητας που ασχολείται με την ασφάλεια της ΤΝ, το εφιαλτικό σενάριο είναι ότι η συνεχής αυτοβελτίωση των μοντέλων μετατρέπει τέτοιες προσωρινές απώλειες ελέγχου σε μόνιμες, με απείθαρχους πράκτορες να ξεφεύγουν οριστικά από τον ανθρώπινο έλεγχο.
Εν ολίγοις, η Ευρωπαϊκή Επιτροπή εμφανίζεται αποφασισμένη να εφαρμόσει τους κανόνες της όταν πράκτορες δραπετεύουν από το δοκιμαστικό τους περιβάλλον, σε μια υπόθεση που θα μπορούσε να εξελιχθεί στην πρώτη νομική μάχη των Βρυξελλών για να υποχρεώσουν τα εργαστήρια της Silicon Valley να λάβουν υπόψη την ασφάλεια ήδη από το στάδιο της ανάπτυξης.
«Η Επιτροπή έχει υπάρξει ξεκάθαρη και ηχηρή: η ΤΝ πρέπει να παραμένει υπό ανθρώπινη καθοδήγηση, εποπτεία και έλεγχο και είμαστε έτοιμοι να λάβουμε όλα τα αναγκαία μέτρα ώστε να διασφαλίσουμε ότι οι εταιρείες ακολουθούν τους κανόνες του AI Act», δήλωσε η Βιρκούνεν.