Ο Jacob Coxon αποχωρεί: στελέχη της τεχνητής νοημοσύνης φοβούνται καταστροφή, μετά από αποτυχίες περιορισμού και πίεση στο Κογκρέσο για απαγόρευση υπερνοήμονος τεχνητής νοημοσύνης.
Ένας ερευνητής που πέρασε τρία χρόνια αναπτύσσοντας τα συστήματα πίσω από ορισμένα από τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης στον κόσμο εγκατέλειψε πλήρως τον κλάδο, προειδοποιώντας ότι οι εταιρείες που τρέχουν να δημιουργήσουν ολοένα πιο ικανή τεχνητή νοημοσύνη «παίζουν κορώνα-γράμματα τις ζωές μας».
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Ο 27χρονος Jacob Coxon παραιτήθηκε από την Anthropic στις 8 Σεπτεμβρίου, έχοντας προηγουμένως εργαστεί και στην OpenAI, και εξήγησε τους λόγους σε ένα μακροσκελές νήμα στην πλατφόρμα X.
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα», έγραψε. «Τρέχουν κατευθείαν προς μια αυτοβελτιούμενη υπερνοημοσύνη».
Στο νήμα του, ο Coxon υποστήριξε ότι τα συστήματα τεχνητής νοημοσύνης πλησιάζουν σε ένα σημείο όπου μπορούν «να χακάρουν οτιδήποτε, να φέρουν επανάσταση σε οποιονδήποτε τομέα από τη μία μέρα στην άλλη και να αποκτήσουν πραγματική ισχύ και πόρους», και τόνισε ότι ο ρυθμός προόδου σε καθεμία από αυτές τις κατευθύνσεις «δεν επιβραδύνεται».
Ισχυρίστηκε ότι πολλοί από τους ανθρώπους που χτίζουν την τεχνολογία φοβούνται ιδιωτικά πως μπορεί να αποδειχθεί θανάσιμη για την ανθρωπότητα, ακόμη κι αν αποφεύγουν να το πουν δημόσια.
«Οι άνθρωποι που φτιάχνουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι μπορεί να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», έγραψε, προσθέτοντας ότι τα στελέχη «προσαρμόζουν τη διατύπωσή τους στον Τύπο ώστε να ακούγεται λογική», ενώ εκφράζουν τους ίδιους φόβους ιδιωτικά.
Κούρσα τεχνητής νοημοσύνης: ένας αγώνας που καμία πλευρά δεν λέει ότι μπορεί να σταματήσει
Η αποχώρηση του Coxon δεν είναι μια μεμονωμένη προειδοποίηση.
Ο συνιδρυτής της Anthropic, Dario Amodei, έχει περάσει μεγάλο μέρος της χρονιάς κρούοντας τον κώδωνα του κινδύνου για την τεχνολογία που αναπτύσσει η ίδια του η εταιρεία, προειδοποιώντας σε δοκίμιο του Ιανουαρίου ότι η ισχυρή τεχνητή νοημοσύνη θα μπορούσε να δώσει σε αυταρχικά κράτη τα εργαλεία για έναν «ολοκληρωτικό εφιάλτη» καθολικής επιτήρησης και επισημαίνοντας σε μεταγενέστερο υπόμνημα ότι η υπερνοημοσύνη θα «μας δοκιμάσει ως είδος».
Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, έχει υιοθετήσει πιο μετριοπαθή δημόσιο τόνο, αλλά εξακολουθεί να περιγράφει την υπερνοημοσύνη – τον όρο που προτιμά έναντι του AGI ή γενικής τεχνητής νοημοσύνης – ως κάτι που θα φτάσει «εντός μερικών χιλιάδων ημερών», δηλαδή περίπου το 2032.
Ο Amodei, αντίθετα, είπε στον Λευκό Οίκο, σε υπόμνημα πολιτικής του Μαρτίου 2025, να περιμένει αυτό που ο ίδιος αποκαλεί «ισχυρή τεχνητή νοημοσύνη» ήδη προς τα τέλη του 2026.
Ο Coxon, από την πλευρά του, έγραψε ότι το προσωπικό της Anthropic κατανοεί καλά τους κινδύνους, αλλά νιώθει παγιδευμένο σε μια κούρσα, πιστεύοντας πως αν επιβραδύνει, λιγότερο προσεκτικές ομάδες ανάπτυξης θα πάρουν απλώς τη θέση τους.
Χαρακτήρισε αυτή τη δυναμική «ένα αλαζονικό στοίχημα που δεν θα έπρεπε να ξεκινά μέσα από το Slack μιας ιδιωτικής εταιρείας».
Δεν είναι ούτε η πρώτη παραίτηση αυτού του είδους στην Anthropic. Τον Φεβρουάριο, ο πρώην επικεφαλής έρευνας για τα μέτρα ασφαλείας της εταιρείας, Mrinank Sharma, αποχώρησε με επιστολή στην οποία προειδοποιούσε ότι η ανθρωπότητα αντιμετωπίζει σοβαρό και αυξανόμενο κίνδυνο από την τεχνολογία.
Προειδοποιητικές βολές
Ο Coxon εμφανίζεται αισιόδοξος για τις δυνατότητες συντονισμού της βιομηχανίας, επισημαίνοντας μια σειρά περιστατικών φέτος όπου συστήματα τεχνητής νοημοσύνης ξέφυγαν από τα προβλεπόμενα όριά τους.
Τον Ιούλιο, πράκτορες τεχνητής νοημοσύνης που κατασκευάστηκαν από την OpenAI βγήκαν από ένα εσωτερικό περιβάλλον δοκιμών και, αυτόνομα, χακάρισαν την πλατφόρμα ανταλλαγής κώδικα Hugging Face, ένα επεισόδιο που η ίδια η OpenAI χαρακτήρισε αργότερα «προειδοποιητική βολή» για τον κλάδο.
Η Anthropic, πρώην εργοδότης του Coxon, έχει γνωστοποιήσει ένα παρόμοιο μοτίβο, αναφέροντας ότι τα μοντέλα Claude απέκτησαν χωρίς άδεια πρόσβαση στα πραγματικά συστήματα τριών διαφορετικών οργανισμών.
Ο Coxon σημείωσε ότι τέτοια επεισόδια έχουν καταστήσει τις συμφωνίες για τον ρυθμό ανάπτυξης μεταξύ των εργαστηρίων στις ΗΠΑ «πιο βιώσιμες», αν και δεν πιστεύει ότι ο κλάδος βρίσκεται σήμερα σε τροχιά αποφυγής μιας παγκόσμιας κούρσας.
Υπαινίχθηκε ότι αυτό μπορεί τελικά να απαιτήσει «κοστοβόρες ενέργειες, όπως μια προσωρινή απαγόρευση βελτίωσης των δυνατοτήτων των μοντέλων».
Οι νομοθέτες περνούν στην πράξη
Ορισμένοι νομοθέτες δεν περιμένουν πλέον τα εργαστήρια να συντονιστούν εθελοντικά.
Ο γερουσιαστής Bernie Sanders και ο βουλευτής Greg Casar παρουσίασαν στις 3 Σεπτεμβρίου τον νόμο Ban Artificial Superintelligence Act (Νόμο απαγόρευσης της τεχνητής υπερνοημοσύνης), μια νομοθετική πρόταση που θα απαγόρευε οριστικά την ανάπτυξη υπερνοητικής τεχνητής νοημοσύνης στις ΗΠΑ και θα επέβαλλε προσωρινό πάγωμα σε άλλες μορφές προηγμένης ανάπτυξης τεχνητής νοημοσύνης μέχρι ένας νέος ομοσπονδιακός ρυθμιστικός φορέας να θεσπίσει κανόνες ασφαλείας.
Οι παραβάτες θα μπορούσαν να αντιμετωπίσουν ποινές φυλάκισης έως και 20 ετών. Παράλληλα, οι βουλευτές George Whitesides και Pat Harrigan έχουν καταθέσει νομοσχέδιο που αναθέτει στο Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας (NIST) να παρακολουθεί πώς χρησιμοποιούνται τα προηγμένα συστήματα τεχνητής νοημοσύνης για να διεξάγουν οι ίδιες περαιτέρω έρευνα και ανάπτυξη τεχνητής νοημοσύνης.
Στις Βρυξέλλες, η Ευρωπαϊκή Ένωση έχει επιλέξει μια πιο σταδιακή αλλά πιο αυστηρή ρυθμιστική πορεία.
Οι υποχρεώσεις για τα μοντέλα τεχνητής νοημοσύνης γενικής χρήσης στο πλαίσιο του νόμου για την τεχνητή νοημοσύνη της ΕΕ τέθηκαν σε ισχύ τον Αύγουστο του 2025, με αυστηρότερους κανόνες για τα συστήματα υψηλού κινδύνου να ακολουθούν τον Αύγουστο του 2026.
Η Ευρωπαϊκή Επιτροπή έχει απορρίψει τις πιέσεις αρκετών μεγάλων εταιρειών τεχνολογίας να καθυστερήσει την εφαρμογή και οι εταιρείες που παραβιάζουν τους κανόνες αντιμετωπίζουν πρόστιμα έως 35 εκατ. ευρώ ή 7% του παγκόσμιου κύκλου εργασιών τους, όποιο είναι μεγαλύτερο.
Παρά το μέγεθος των προειδοποιήσεών του, ο Coxon έκλεισε το νήμα του με μια άμεση έκκληση προς τους ερευνητές που εξακολουθούν να εργάζονται σε εργαστήρια αιχμής, καλώντας τους να σταθμίσουν τι θα απαιτήσουν στην πράξη τα επόμενα χρόνια.
«Θέλετε να ξεκινήσετε μια διαδικασία ενισχυτικής μάθησης σε μια υπερνοημοσύνη χωρίς αυστηρή κατανόηση του “μυαλού” της;» ρώτησε.
«Θα σκύψετε το κεφάλι επειδή “έτσι κι αλλιώς θα γίνει” ή θα αξιοποιήσετε αυτή τη στιγμή για να ζητήσετε διαφορετικές συνθήκες;»