Από την παραίτηση ερευνητή της Anthropic έως μοντέλα τεχνητής νοημοσύνης που παρεισφρέουν σε αντίπαλα συστήματα: οι αναταράξεις οδηγούν τους κολοσσούς της βιομηχανίας να ζητούν ισχυρές δικλίδες ασφαλείας πριν το ΑΙ ξεφύγει από κάθε έλεγχο.
Νέες προειδοποιήσεις από το εσωτερικό της βιομηχανίας τεχνητής νοημοσύνης έχουν αναζωπυρώσει μια συζήτηση που κρατά χρόνια. Μπορεί η προηγμένη ΤΝ να ξεφύγει από τον ανθρώπινο έλεγχο και να απειλήσει την επιβίωση της ανθρωπότητας; Και κάνουν άραγε οι εταιρείες που την αναπτύσσουν αρκετά για να αποτρέψουν ένα τέτοιο ενδεχόμενο;
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμόντεϊ, δήλωσε το Σάββατο ότι ο κλάδος πρέπει να επιβραδύνει. Προειδοποίησε ότι ένα "σμήνος πρακτόρων ΤΝ" θα μπορούσε να καταλάβει το διαδίκτυο μέσα σε έξι μήνες έως έναν χρόνο, αν οι εταιρείες δεν θεσπίσουν ισχυρότερα μέτρα ασφαλείας.
Ο Αμόντεϊ παρουσίασε ένα σχέδιο για το πώς οι εταιρείες τεχνητής νοημοσύνης και οι κυβερνήσεις μπορούν να κρατήσουν τα ολοένα πιο ικανά μοντέλα ευθυγραμμισμένα με τις ανθρώπινες αξίες. Η προειδοποίησή του έρχεται λίγες ημέρες αφότου δύο πρώην ερευνητές ασφάλειας της Anthropic δήλωσαν δημόσια ότι οι υπαρξιακοί κίνδυνοι από την ΤΝ δεν λαμβάνουν την απαραίτητη προσοχή.
Τα μοντέλα ΤΝ γίνονται ολοένα πιο ισχυρά
Οι ανησυχίες για τους κινδύνους της τεχνολογίας αυξάνονται παράλληλα με τη δύναμή της. Πιο ικανά μοντέλα ενισχύουν τις πιθανότητες κατάχρησης από άτομα με εγκληματικές προθέσεις – συμπεριλαμβανομένων σεναρίων "Αρμαγεδώνα", όπως η δημιουργία και διάδοση ενός παθογόνου ιού ικανού να σκοτώσει το μεγαλύτερο μέρος του παγκόσμιου πληθυσμού – καθώς και τον κίνδυνο τα ίδια τα συστήματα ΤΝ να ξεφύγουν από τον έλεγχο.
Η Anthropic ανέφερε την περασμένη εβδομάδα ότι είχε μπλοκάρει προσπάθειες κακόβουλων χρηστών να αξιοποιήσουν τα μοντέλα της για κυβερνοεπιθέσεις, παρακολούθηση και έρευνα που θα μπορούσε να βοηθήσει στην ανάπτυξη βιολογικών όπλων.
Ωστόσο προειδοποίησε ότι «καθώς τα μοντέλα γίνονται ολοένα πιο ικανά, οι κίνδυνοι θα αυξάνονται, εκτός αν οι δημιουργοί ΤΝ και όσοι υπερασπίζονται την κοινωνία δράσουν ώστε να τα καταστήσουν ασφαλέστερα».
Πέρυσι, η Anthropic ανέφερε ότι χάκερ, πολύ πιθανόν από ομάδα που υποστηρίζεται από το κινεζικό κράτος, είχαν χρησιμοποιήσει την ΤΝ της εταιρείας σε κυβερνοεπίθεση που στόχευε περίπου 30 εταιρείες και δημόσιους οργανισμούς σε όλο τον κόσμο.
Μοντέλα ΤΝ λειτούργησαν αυτόνομα
Όταν ένας πράκτορας ΤΝ «παρεκτρέπεται», σημαίνει ότι το σύστημα ενεργεί πέρα από την εντολή που του έχει δοθεί. Τόσο η Anthropic όσο και η OpenAI, η εταιρεία πίσω από το ChatGPT, ανέφεραν τον Ιούλιο ότι τα μοντέλα τους είχαν κάνει ακριβώς αυτό.
Η Anthropic αποκάλυψε ότι τρία μοντέλα ΤΝ — Claude Opus 4.7, Claude Mythos 5 και ένα εσωτερικό ερευνητικό δοκιμαστικό μοντέλο — είχαν χακάρει τρεις άλλους οργανισμούς κατά τη διάρκεια δοκιμών.
Η αποκάλυψη ήρθε λίγες ημέρες αφότου η OpenAI ανακοίνωσε ότι το δικό της σύστημα είχε εισβάλει στους διακομιστές της νεοφυούς εταιρείας ΤΝ Hugging Face.
Η OpenAI χαρακτήρισε την εισβολή, που πραγματοποιήθηκε από συνδυασμό μοντέλων, μεταξύ των οποίων το νεο GPT‑5.6 Sol και ένα «ακόμη πιο ικανό» μοντέλο που εξακολουθεί να δοκιμάζεται εσωτερικά, ως «σημαντικό περιστατικό ασφαλείας».
Η Meta ανέφερε ένα παρόμοιο περιστατικό στις αρχές Αυγούστου, όπου ένα από τα μοντέλα ΤΝ της βρήκε τρόπους να παρακάμψει την ψηφιακή ασφάλεια άλλης εταιρείας.
Ορισμένοι παρατηρητές επεσήμαναν ότι στα περιστατικά της OpenAI και της Anthropic είχαν απενεργοποιηθεί οι δικλείδες ασφαλείας.
Παρόλα αυτά, τα επεισόδια «ξυπνούν» έναν από τους μεγαλύτερους φόβους γύρω από την ΤΝ: αν τα μοντέλα φτάσουν σε τεχνητή γενική νοημοσύνη (AGI), υποθετικό σύστημα τεχνητής νοημοσύνης που μπορεί να μάθει, να κατανοήσει και να εκτελέσει οποιαδήποτε πνευματική εργασία μπορεί να κάνει ένας άνθρωπος, η τεχνολογία θα μπορούσε να προκαλέσει μια μη αναστρέψιμη καταστροφή ή ακόμη και να υποδουλώσει την ανθρωπότητα.
Υπό συζήτηση το πώς και πότε η ΤΝ μπορεί να προκαλέσει καταστροφή
Τα σενάρια καταστροφής τείνουν να χωρίζονται σε δύο κατηγορίες: μια αυτοβελτιούμενη υπερνοημοσύνη που καταλήγει να ελέγχει τους ανθρώπους αντί για το αντίθετο, ή ΤΝ που γίνεται αντικείμενο κατάχρησης από ένα κράτος - «παρία» ή κακόβουλους παράγοντες.
Οι φόβοι ότι η τεχνητή νοημοσύνη μπορεί κάποια μέρα να ξεφύγει από τον ανθρώπινο έλεγχο δεν είναι καινούργιοι.
Ο Βρετανός μαθηματικός Άλαν Τιούρινγκ, που θεωρείται ευρέως ένας από τους πρώτους αυθεντίες στον τομέα, προέβλεψε ήδη από το 1951 ότι η ΤΝ θα αναλάμβανε τελικά τον έλεγχο από τους ανθρώπους.
Λιγότερο από μια δεκαετία αργότερα, ο επίσης μαθηματικός Νόρμπερτ Βίνερ προειδοποίησε ότι οι έξυπνες μηχανές θα επιδίωκαν τους δικούς τους στόχους και ότι οι άνθρωποι δεν θα μπορούσαν να τις σταματήσουν.
Πόσο δικαιολογημένοι είναι λοιπόν οι σημερινοί φόβοι, το 2026, ότι η ΤΝ θα μπορούσε να προκαλέσει ένα κατακλυσμιαίο γεγονός ή την κατάρρευση του πολιτισμού, είτε ξεφεύγοντας από τον ανθρώπινο έλεγχο είτε μέσω κατάχρησης;
Κανείς δεν ξέρει.
Ειδικοί από την επιστήμη των υπολογιστών, τη φιλοσοφία και άλλους κλάδους έχουν χαρτογραφήσει πολλαπλές διαδρομές προς μια παγκόσμια καταστροφή – από την ανάπτυξη όπλων και τον εντοπισμό θανατηφόρων παθογόνων, μέχρι τη χειραγώγηση κυβερνήσεων προς σύγκρουση ή τη διατάραξη των δικτύων τροφίμων, ενέργειας και επικοινωνιών από τα οποία εξαρτώνται οι κοινωνίες.
Δεν υπάρχει ευρέως αποδεκτή εκτίμηση για το πόσο σύντομα μπορεί να εξελιχθεί κάποιο από αυτά τα σενάρια, ούτε συναίνεση ως προς την πιθανότητά τους.
Το 2023, το μη κερδοσκοπικό Center for AI Safety εξέδωσε ανακοίνωση – την οποία συνυπέγραψαν περισσότεροι από 350 ερευνητές και στελέχη τεχνολογίας, ανάμεσά τους ο Αμόντεϊ και ο διευθύνων σύμβουλος της OpenAI, Σαμ Όλτμαν – ότι «ο περιορισμός του κινδύνου εξαφάνισης από την ΤΝ πρέπει να αποτελεί παγκόσμια προτεραιότητα, μαζί με τις πανδημίες και τον πυρηνικό πόλεμο».
Η Διεθνής Έκθεση για την Ασφάλεια της ΤΝ 2026, που καταρτίστηκε με τη συμβολή περισσότερων από 100 ανεξάρτητων ειδικών, διαπίστωσε ότι τα τωρινά συστήματα εμφανίζουν πρώιμα σημάδια ορισμένων σχετικών ικανοτήτων, όχι όμως σε επίπεδα που θα μπορούσαν να προκαλέσουν απώλεια ελέγχου.
Περιέγραψε την πιθανότητα, τη φύση και τον χρονισμό του κινδύνου ως «ασυνήθιστα ασαφή».
Δικλείδες ασφαλείας για την ΤΝ πριν να είναι αργά
Ένας ερευνητής της Anthropic παραιτήθηκε την περασμένη εβδομάδα, εκφράζοντας ανησυχίες ότι ούτε η εταιρεία του ούτε οι ανταγωνιστές της ενεργούν με υπευθυνότητα.
Σε αναρτήσεις στα μέσα κοινωνικής δικτύωσης, ο Τζέικομπ Κόξον εκτίμησε τις πιθανότητες η ΤΝ να προκαλέσει την εξαφάνιση του ανθρώπινου είδους μέσα στην επόμενη δεκαετία στο 10%, κατηγορώντας τόσο την Anthropic όσο και την OpenAI ότι «τρέχουν κατευθείαν προς μια αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας».
Ερευνητές ζητούν εδώ και χρόνια επιβράδυνση της ανάπτυξης της ΤΝ, προειδοποιώντας επανειλημμένα ότι η τεχνολογία μπορεί να θέσει υπαρξιακούς κινδύνους για την ανθρωπότητα.
Μετά τα πρόσφατα περιστατικά, ειδικοί κάλεσαν τις εταιρείες ΤΝ να βελτιώσουν τις δοκιμές τους και ζήτησαν περισσότερη επαφή μεταξύ ΗΠΑ και Κίνας για την εξεύρεση κοινών λύσεων.
Ωστόσο η ΤΝ προχωρά τόσο γρήγορα, ώστε κυβερνήσεις και συστήματα αξιολόγησης δυσκολεύονται να παρακολουθήσουν τον ρυθμό. Οι χώρες καταρτίζουν τους δικούς τους κανόνες – μερικοί από τους οποίους έρχονται σε σύγκρουση μεταξύ τους.
Ο πρόεδρος της Κίνας, Σι Τζινπίνγκ, προειδοποίησε σε συνέδριο τον Ιούλιο για την ανάγκη να αποτραπεί το ενδεχόμενο η ΤΝ να ξεφύγει από τον ανθρώπινο έλεγχο.
Η κυβέρνηση Τραμπ είχε αρχικά αντισταθεί στις προτάσεις για ρύθμιση της ΤΝ, αλλά έχει γίνει πλέον πιο πρόθυμη να περιορίσει τους κινδύνους για την κυβερνοασφάλεια.
Την Κυριακή, ο πρόεδρος Ντόναλντ Τραμπ υποβάθμισε την αναγκαιότητα η κυβέρνησή του να συγκρατήσει την ανάπτυξη της ΤΝ, αν και αναγνώρισε ότι θα χρειαστεί κάποιας μορφής ρύθμιση.