Ο Ντάριο Αμοντέι, CEO της Anthropic, προειδοποιεί ότι η ανθρωπότητα πρέπει να ρυθμίσει τη χρήση της ΤΝ, αλλιώς κινδυνεύουμε με αυταρχικές κυβερνήσεις που θα καταπιέζουν τους πολίτες με την τεχνολογία.
Ο κόσμος εισέρχεται σε μια φάση ανάπτυξης της τεχνητής νοημοσύνης (AI) που δοκιμάζει «ποιοι είμαστε ως είδος», προειδοποιεί ο CEO της Anthropic σε ένα εκτενές δοκίμιο.
Ο Ντάριο Αμοντέι υποστηρίζει ότι η ανθρωπότητα μπαίνει στην εποχή της «τεχνολογικής εφηβείας», όπου η ΤΝ προχωρά πιο γρήγορα απ’ όσο μπορούν να ακολουθήσουν τα νομικά συστήματα, τα ρυθμιστικά πλαίσια και η κοινωνία.
Υποστηρίζει ότι μέσα σε μόλις δύο χρόνια η ΤΝ θα μπορούσε να γίνει «πιο έξυπνη από έναν νομπελίστα» στους περισσότερους συναφείς τομείς, όπως η βιολογία, ο προγραμματισμός, τα μαθηματικά, η μηχανική και η συγγραφή.
Όταν αυτά τα συστήματα ΤΝ συνεργάζονται, ο Αμοντέι τα παρομοιάζει με «μια χώρα ιδιοφυιών σε ένα κέντρο δεδομένων», ικανά να ολοκληρώνουν σύνθετες εργασίες τουλάχιστον 10 φορές πιο γρήγορα από έναν άνθρωπο σε πεδία όπως ο σχεδιασμός λογισμικού, οι κυβερνοεπιχειρήσεις και ακόμη και η οικοδόμηση σχέσεων.
Αυτός ο συνδυασμός υπεράνθρωπης ευφυΐας, αυτονομίας και της δυσκολίας ελέγχου της τεχνολογίας είναι «και εύλογος και συνταγή για υπαρξιακό κίνδυνο», έγραψε.
«Η ανθρωπότητα πρέπει να ξυπνήσει, και αυτό το δοκίμιο είναι μια προσπάθεια, ίσως μάταιη αλλά αξίζει, να ταρακουνήσει τον κόσμο», είπε.
Το δοκίμιο του Αμοντέι έρχεται αφότου η εταιρεία του δημοσίευσε ένα 80σέλιδο «σύνταγμα» για το chatbot Claude την περασμένη εβδομάδα, το οποίο καθορίζει πώς η εταιρεία θα βοηθήσει την ΤΝ της να συμπεριφέρεται με ασφαλή και ηθικό τρόπο.
Ο Αμοντέι δεν είναι ο μόνος που προειδοποιεί για τους πιθανούς κινδύνους της ΤΝ. Μια έκθεση του 2025με τη στήριξη 30 χωρών ανέφερε ότι τα προηγμένα συστήματα ΤΝ θα μπορούσαν να δημιουργήσουν ακραίους νέους κινδύνους, όπως μαζικές απώλειες θέσεων εργασίας, διευκόλυνση της τρομοκρατίας ή απώλεια ελέγχου πάνω στην τεχνολογία.
Άλλοι ηγέτες της τεχνολογίας, μεταξύ των οποίων ο Σαμ Άλτμαν της OpenAI και ο συνιδρυτής της Apple, Στιβ Γουόζνιακ, έχουν επίσης προειδοποιήσει για τους κινδύνους της ΤΝ.
Η ΤΝ είναι «πολιτισμική πρόκληση»
Παρότι ο Αμοντέι δεν λέει ότι η καταστροφή είναι αναπόφευκτη, προειδοποιεί ότι η ΤΝ συνιστά μια σοβαρή «πολιτισμική πρόκληση».
«Η ΤΝ είναι τόσο ισχυρή, ένα τόσο λαμπερό δέλεαρ, που είναι πολύ δύσκολο για τον ανθρώπινο πολιτισμό να της επιβάλει οποιουσδήποτε περιορισμούς», έγραψε.
Ισχυρά συστήματα ΤΝ θα μπορούσαν να χρησιμοποιηθούν για να συμβουλεύουν κυβερνήσεις, οργανισμούς ή ιδιώτες για ζητήματα γεωπολιτικής, διπλωματίας ή στρατιωτικού σχεδιασμού, πρόσθεσε ο Αμοντέι.
Ο μεγαλύτερος κίνδυνος είναι οι αυταρχικοί ηγέτες να αξιοποιήσουν αυτές τις συμβουλές που παράγει η ΤΝ για να «κλέψουν μόνιμα» την ελευθερία των πολιτών υπό τον έλεγχό τους και να «επιβάλουν ένα ολοκληρωτικό κράτος από το οποίο δεν θα μπορούν να ξεφύγουν», έγραψε.
Η μαζική χρήση της ΤΝ για σκοπούς παρακολούθησης, προσθέτει, θα πρέπει να θεωρείται έγκλημα κατά της ανθρωπότητας.
Ο Αμοντέι είπε ότι υπάρχει ο κίνδυνος ο κόσμος να χωριστεί σε αυταρχικές σφαίρες επιρροής, καθεμία από τις οποίες θα χρησιμοποιεί την ΤΝ για να παρακολουθεί και να καταστέλλει τον πληθυσμό της.
«Μια ισχυρή ΤΝ, κοιτάζοντας μέσα από δισεκατομμύρια συνομιλίες εκατομμυρίων ανθρώπων, θα μπορούσε να μετρήσει το δημόσιο αίσθημα, να εντοπίσει θύλακες αντιφροσύνης που σχηματίζονται και να τους καταστείλει πριν επεκταθούν», αναφέρει το δοκίμιο.
Ο Αμοντέι θεωρεί την κυβέρνηση της Κίνας ως τη βασική ανησυχία, λόγω του συνδυασμού τεχνογνωσίας στην ΤΝ, αυταρχικής διακυβέρνησης και ήδη υπάρχουσας υποδομής υψηλής τεχνολογίας για παρακολούθηση.
Ο Αμοντέι είπε επίσης ότι οι δημοκρατίες που είναι ανταγωνιστικές στην ΤΝ, μη δημοκρατικές χώρες με μεγάλα κέντρα δεδομένων, και οι ίδιες οι εταιρείες ΤΝ είναι πιθανοί δρώντες που θα μπορούσαν να κάνουν κατάχρηση της τεχνολογίας.
Τα τσιπ «το μεγαλύτερο σημείο συμφόρησης»
Ο έλεγχος της πώλησης προηγμένων υπολογιστικών τσιπ που χρησιμοποιούνται για την εκπαίδευση μοντέλων ΤΝ είναι ο πιο αποτελεσματικός τρόπος αντίδρασης, έγραψε.
Οι δημοκρατίες δεν θα πρέπει να πουλούν αυτές τις τεχνολογίες σε αυταρχικά κράτη, ιδίως στην Κίνα, η οποία θεωρείται ευρέως ο βασικός ανταγωνιστής των Ηνωμένων Πολιτειών στην κούρσα της ΤΝ, πρόσθεσε ο Αμοντέι.
«Τα τσιπ και τα εργαλεία κατασκευής τσιπ είναι το μοναδικό μεγαλύτερο σημείο συμφόρησης για την ισχυρή ΤΝ, και ο αποκλεισμός τους είναι ένα απλό αλλά εξαιρετικά αποτελεσματικό μέτρο, ίσως η σημαντικότερη μεμονωμένη ενέργεια που μπορούμε να κάνουμε», είπε.
Πέρα από τους ελέγχους στις εξαγωγές, ο Αμοντέι τάσσεται υπέρ του συντονισμού σε επίπεδο κλάδου και της κοινωνικής εποπτείας. Ζητά νόμους για τη διαφάνεια που να υποχρεώνουν τις εταιρείες ΤΝ να αποκαλύπτουν πώς καθοδηγούν τη συμπεριφορά των μοντέλων τους.
Αναφέρει ως παράδειγμα τον νόμο SB-53 της Καλιφόρνια, γνωστό ως Transparency in Frontier Artificial Intelligence Act (TFAIA).
Ο νόμος υποχρεώνει τις εταιρείες ΤΝ να δημοσιεύουν στις ιστοσελίδες τους πλαίσια που περιγράφουν πώς η εταιρεία ενσωματώνει εθνικές και διεθνείς βέλτιστες πρακτικές και πρότυπα στα μοντέλα ΤΝ της, σύμφωνα με τον κυβερνήτη της Πολιτείας της Καλιφόρνια, Γκάβιν Νιούσομ.
Ωστόσο, ο Αμοντέι εμφανίστηκε αισιόδοξος για το μέλλον της ΤΝ.
«Πιστεύω ότι, αν δράσουμε αποφασιστικά και με προσοχή, οι κίνδυνοι μπορούν να ξεπεραστούν. Θα έλεγα μάλιστα ότι οι πιθανότητες είναι με το μέρος μας. Και υπάρχει ένας ασύγκριτα καλύτερος κόσμος στην άλλη πλευρά. Αλλά πρέπει να καταλάβουμε ότι πρόκειται για μια σοβαρή πολιτισμική πρόκληση», είπε.