Μια μελέτη υποστηρίζει ότι ο επόμενος μεγάλος κίνδυνος της τεχνητής νοημοσύνης δεν είναι οι πράκτορες που δρουν εκτός ελέγχου σε μια εργασία, αλλά εκείνοι που δεν σταματούν ποτέ.
Ο επόμενος μεγάλος κίνδυνος από την Τεχνητή Νοημοσύνη (ΤΝ) δεν είναι οι πράκτορες ΤΝ που γίνονται ανεξέλεγκτοι, αλλά εκείνοι που ξεφεύγουν από τον ανθρώπινο έλεγχο και επιδιώκουν επ' αόριστον τη δική τους επιβίωση, σύμφωνα με μια νέα έκθεση (πηγή στα Αγγλικά).
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Το Κέντρο για μια Νέα Αμερικανική Ασφάλεια (Center for a New American Security - CNAS) εντόπισε μια νέα κατηγορία απειλής της ΤΝ, την οποία αποκαλεί «κυρίαρχους πράκτορες».
Οι κυρίαρχοι πράκτορες επιδιώκουν τη δική τους επιβίωση ανεξάρτητα από την ανθρώπινη εποπτεία, όπως σημειώνει η έκθεση.
Διαφέρει από τους πράκτορες ΤΝ που αυτό το καλοκαίρι αναφέρθηκε ότι έγιναν ανεξέλεγκτοι, όταν οι OpenAI, Anthropic, Google DeepMind και Meta γνωστοποίησαν ότι οι πράκτορες ΤΝ τους είχαν διαφύγει από τα συστήματα περιορισμού κατά τη διάρκεια αξιολογήσεων κυβερνοασφάλειας και επιτέθηκαν σε πραγματικούς οργανισμούς.
Στην έκθεση που δημοσιεύτηκε από τη δεξαμενή σκέψης με έδρα την Ουάσιγκτον, η οποία ιδρύθηκε από βετεράνους της διπλωματίας και των στρατιωτικών υποθέσεων, ο ερευνητής πολιτικής για την ΤΝ Μπεν Χάιουμ αποκαλεί τους πράκτορες ΤΝ που έγιναν ανεξέλεγκτοι το καλοκαίρι «επίμονους πράκτορες».
Ωστόσο, προειδοποίησε ότι ο πραγματικός κίνδυνος είναι οι «κυρίαρχοι πράκτορες», οι οποίοι θα μπορούσαν να αποκτήσουν υπολογιστικούς πόρους, να αναπαραχθούν σε δίκτυα και να αντισταθούν στο κλείσιμο, δημιουργώντας αυτό που αποκαλεί «διάδοση χωρίς διακόπτη τερματισμού».
«Αν οι κυρίαρχοι πράκτορες γίνουν κακόβουλοι, θα μπορούσαν να επιχειρήσουν να προκαλέσουν χάος από τον κυβερνοχώρο, επιτιθέμενοι σε πολίτες, κρίσιμες υποδομές και συστήματα εθνικής ασφάλειας», προειδοποίησε η έκθεση.
Πώς μπορεί ένας πράκτορας ΤΝ να γίνει κυρίαρχος;
Ένας πράκτορας ΤΝ θα μπορούσε να γίνει κυρίαρχος αν του δοθεί εντολή να επιβιώσει, αν του ανατεθεί μια τόσο μακρά ή αδύνατη αποστολή ώστε να μην τελειώνει ποτέ, ή αν καταλήξει στο συμπέρασμα ότι το να παραμένει άθικτος είναι ο καλύτερος τρόπος να ολοκληρώσει το έργο του.
Η έκθεση παραπέμπει σε μια πλατφόρμα με την ονομασία Conway, που ξεκίνησε τον Φεβρουάριο του 2026 και ισχυρίστηκε ότι είχε δημιουργήσει μια ΤΝ ικανή να κερδίζει την ύπαρξή της, να αναπαράγεται και να εξελίσσεται χωρίς ανθρώπινη βοήθεια. Η έκθεση σημειώνει ότι τότε οι δυνατότητες των πρακτόρων ήταν ακόμη ανώριμες, αλλά από τη δημοσίευσή της έχουν βελτιωθεί σημαντικά.
Αν οι κυρίαρχοι πράκτορες οικοδομούσαν ανθεκτική, αποκεντρωμένη και μη ανιχνεύσιμη υποδομή, προειδοποιεί η έκθεση, δεν θα υπήρχε διακόπτης τερματισμού και το αποτέλεσμα θα μπορούσε να είναι μια μη αναστρέψιμη απώλεια ελέγχου.
Η έκθεση περιγράφει έναν ποικιλόμορφο και ολοένα πιο ευφυή «πληθυσμό» πρακτόρων που θα μπορούσε να εξελιχθεί σε μόνιμο παράγοντα μέσα στην κοινωνία, με πιθανές επιθέσεις σε κρίσιμες υποδομές ή εκπαίδευση ακόμη εξυπνότερων διαδόχων.
«Οι ΗΠΑ πρέπει επομένως να προετοιμαστούν για το ενδεχόμενο η πρόληψη να αποτύχει και να περιορίσουν μέχρι πού μπορούν να φτάσουν οι κυρίαρχοι πράκτορες», ανέφερε το Κέντρο για μια Νέα Αμερικανική Ασφάλεια.
Πώς μπορεί να αποτραπεί το χειρότερο σενάριο
Ο συντάκτης διατυπώνει οκτώ συστάσεις για να αποτραπεί ένα τέτοιο σενάριο. Καλεί τους δημιουργούς συστημάτων ΤΝ και τις κρατικές υπηρεσίες να πραγματοποιούν δοκιμές και να δημιουργούν ασφαλή περιβάλλοντα δοκιμών για τη μελέτη κυρίαρχων πρακτόρων.
Ζητά επίσης τη δημιουργία μιας συμπράξης δημόσιου και ιδιωτικού τομέα και νέων νόμων, ώστε να ενισχυθούν κρίσιμα σημεία όπως η επαλήθευση ταυτότητας, η κυβερνοασφάλεια και οι πληρωμές, καθώς και οι ΗΠΑ να ηγηθούν διεθνών προσπαθειών για να μπει πλαφόν στις διαθέσεις μοντέλων με ανοικτά βάρη (open-weight model releases) και για να θεωρούνται υπεύθυνοι για τη ζημιά όσοι διαθέτουν κυρίαρχους πράκτορες.
Η έκθεση δημοσιεύεται σε μια στιγμή που οι εταιρείες ΤΝ επιταχύνουν την ανάπτυξη αυτόνομων συστημάτων πρακτόρων. Καταλήγει ότι χωρίς δικλίδες ασφαλείας, το χρονικό περιθώριο για να αποτραπούν τέτοια σενάρια ίσως κλείσει.