Τα έγγραφα της δημόσιας εγγραφής της εταιρείας τεχνητής νοημοσύνης προειδοποιούν για πιθανούς κινδύνους από ολοένα πιο αυτόνομα συστήματα, καθώς και για οικονομικές και ρυθμιστικές προκλήσεις.
Οι ανεξέλεγκτες εφαρμογές τεχνητής νοημοσύνης, οι κυβερνοεπιθέσεις και η πιθανή χρήση της τεχνητής νοημοσύνης για την ανάπτυξη επικίνδυνων όπλων περιλαμβάνονται στους κινδύνους που η Anthropic γνωστοποιεί στους επενδυτές, καθώς προετοιμάζεται για την είσοδό της στο χρηματιστήριο.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Από τις 335 σελίδες με τα οικονομικά στοιχεία της Anthropic, τις αμοιβές των στελεχών, την πολιτική μερισμάτων και συναφή θέματα, οι 93 σελίδες είναι αφιερωμένες στους «παράγοντες κινδύνου» – ζητήματα που θα μπορούσαν να πλήξουν τις επενδύσεις των υποψήφιων μετόχων. Για σύγκριση, οι καταγεγραμμένοι κίνδυνοι της ανταγωνίστριας SpaceX καταλαμβάνουν 38 από περισσότερες από 250 σελίδες.
Οι αποκαλύψεις αυτές είναι υποχρεωτικές στο πλαίσιο της διαδικασίας αρχικής δημόσιας προσφοράς, ώστε οι υποψήφιοι επενδυτές να έχουν πιο καθαρή εικόνα των κινδύνων που αναλαμβάνουν αγοράζοντας μετοχές της εταιρείας.
Απευθυνόμενη στους επενδυτές, η Anthropic παρουσιάζει τη δική της αρχική δημόσια προσφορά ως βήμα για τον περιορισμό των κινδύνων που, όπως πιστεύει, συνεπάγεται η τεχνητή νοημοσύνη.
«Το να δημιουργείς τεχνητή νοημοσύνη σημαίνει να αξιοποιείς την ίδια τη νόηση και οτιδήποτε τόσο ισχυρό μπορεί να χρησιμοποιηθεί για κακό όπως και για καλό», γράφουν οι ιδρυτές της εταιρείας σε επιστολή προς τους υποψήφιους μετόχους στο ενημερωτικό δελτίο της δημόσιας προσφοράς. «Η Anthropic είναι ένας οργανισμός βαθιά προσανατολισμένος σε αξίες, που ιδρύθηκε σε μεγάλο βαθμό για να βοηθήσει τον κόσμο να αξιοποιήσει τα οφέλη της τεχνητής νοημοσύνης και να αποφύγει τους κινδύνους της».
Παρόλα αυτά, οι κίνδυνοι είναι πολλοί. Εκτείνονται από τα πιο συνηθισμένα – όπως το ενδεχόμενο η εταιρεία να μην καταφέρει να διατηρήσει βασικά στελέχη ή να ξεπεράσει ρυθμιστικά εμπόδια – μέχρι τη συμμετοχή σε κυβερνοεπιθέσεις και τη διάδοση επικίνδυνων παραπληροφοριών.
Ακολουθούν ορισμένοι από τους κινδύνους που περιγράφει αναλυτικά η Anthropic:
Η ταχεία εξέλιξη της τεχνολογίας
Η Anthropic αναφέρει ότι είναι πιθανό τα μοντέλα της να εξελιχθούν τόσο γρήγορα, ώστε η εταιρεία να μην προλαβαίνει να εφαρμόσει επαρκή μέτρα ασφαλείας, «γεγονός που θα μπορούσε να αυξήσει την πιθανότητα συμβάντων ασφαλείας, ρυθμιστικής παρέμβασης ή πλήγματος στη φήμη μας και να επηρεάσει αρνητικά την επιχειρηματική μας δραστηριότητα».
Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, προειδοποίησε τον Σεπτέμβριο ότι μέσα σε έξι έως δώδεκα μήνες η τεχνητή νοημοσύνη θα μπορούσε να καθοδηγεί μια σμήνη πρακτόρων ικανών να καταλάβουν ολόκληρο το διαδίκτυο. Η προειδοποίηση – και τώρα η κίνηση της Anthropic να διαθέσει μετοχές – έρχεται σε μια περίοδο αυξανόμενης ανησυχίας εντός και εκτός κλάδου για ολοένα ισχυρότερα συστήματα που μπορούν να επιλύουν προβλήματα πέρα από τις ανθρώπινες δυνατότητες, αλλά ενδέχεται επίσης να δράσουν αυτόνομα για την εκτέλεση επιβλαβών ενεργειών.
Καθώς τα συστήματα τεχνητής νοημοσύνης «γίνονται πιο αυτόνομα και ικανά να προβαίνουν σε καθοριστικές ενέργειες με λιγότερη ανθρώπινη εποπτεία», αναφέρει το έγγραφο προς την SEC, υπάρχει ο κίνδυνος τέτοια συστήματα να «προχωρούν αυτόνομα, σε μεγάλη κλίμακα, σε επιβλαβείς ενέργειες χωρίς ανθρώπινη παρέμβαση».
«Ακόμη κι αν τα δικά μας μοντέλα δεν προκαλέσουν τέτοια βλάβη, ένα σοβαρό περιστατικό ασφαλείας που θα αφορά οποιαδήποτε αιχμή της τεχνητής νοημοσύνης θα μπορούσε να προκαλέσει εκτεταμένο πλήγμα στη φήμη του κλάδου, αντίδραση της κοινής γνώμης και σαρωτικές ρυθμιστικές παρεμβάσεις που θα επηρέαζαν αρνητικά την επιχείρησή μας», σημειώνει η Anthropic.
Τώρα που τα ίδια τα μοντέλα τεχνητής νοημοσύνης συμβάλλουν στην έρευνα και ανάπτυξη της Anthropic, είναι πιθανό η τεχνητή νοημοσύνη να εξελιχθεί «πέρα από την ικανότητά μας να αξιολογούμε και να θωρακίζουμε νέα μοντέλα», σύμφωνα με το ενημερωτικό δελτίο. Αυτό, αναφέρει το έγγραφο, θα μπορούσε να έχει αρνητικές συνέπειες για την πορεία της εταιρείας.
Κακόβουλοι χρήστες μπορεί να προκαλέσουν χάος με την τεχνολογία
Το ενημερωτικό δελτίο αναφέρεται σε ανησυχίες ότι τα προηγμένα συστήματα τεχνητής νοημοσύνης, αν δεν αναπτυχθούν και δεν λειτουργούν με επαρκείς δικλίδες ασφαλείας και εποπτεία, «συνιστούν καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα, ιδίως αν γίνει κακή χρήση τους, αναπαραχθούν, μετατραπούν σε όπλα ή τους επιτραπεί να λειτουργούν με υψηλό βαθμό αυτονομίας».
Η εταιρεία αναφέρει ότι θα υποστεί ζημιά αν η χρήση από κακόβουλους παράγοντες προκαλέσει βλάβη «ή αν οι προστατευτικές δικλίδες και τα μέτρα ασφαλείας των μοντέλων μας δεν καταφέρουν να αποτρέψουν τέτοια κατάχρηση».
Η Anthropic περιέγραψε το ενδεχόμενο κακόβουλοι χρήστες να αξιοποιήσουν μοντέλα τεχνητής νοημοσύνης για την κατασκευή χημικών όπλων ή αυταρχικοί ηγέτες να καταφύγουν στην τεχνολογία για να εντείνουν την καταστολή σε βάρος των πολιτών τους. Τον Σεπτέμβριο, η εταιρεία γνωστοποίησε ότι είχε μπλοκάρει προσπάθειες χρήσης των μοντέλων της για κακόβουλες δραστηριότητες, όπως κυβερνοεπιθέσεις, παρακολούθηση και έρευνα που θα μπορούσε να οδηγήσει στην ανάπτυξη βιολογικών όπλων.
Η εταιρεία μπορεί να βρεθεί αντιμέτωπη με περιορισμούς στην υπολογιστική ισχύ
Η υπολογιστική ισχύς – οι πόροι που απαιτούνται για την ανάπτυξη, δοκιμή και βελτίωση μοντέλων τεχνητής νοημοσύνης – είναι ακριβή και βρίσκεται σε μεγάλη ζήτηση. Η Anthropic προειδοποιεί ότι, αν δεν καταφέρει να εξασφαλίσει επαρκή υπολογιστική ισχύ ή αν «αποτύχουμε να τη διαθέσουμε αποτελεσματικά στα διαφορετικά φορτία εργασίας μας, ενδέχεται να μην μπορέσουμε να εκπαιδεύσουμε μοντέλα που να παραμένουν ανταγωνιστικά σε σχέση με εκείνα των αντιπάλων μας ή να εξυπηρετούμε επαρκώς τους πελάτες μας».
Η Anthropic αναφέρει ως κίνδυνο για τη δραστηριότητά της και τις αντιδράσεις των τοπικών κοινωνιών απέναντι στα κέντρα δεδομένων. Η ανάπτυξη τέτοιων κέντρων «έχει προκαλέσει δημόσια αντιπαράθεση και ρυθμιστικό έλεγχο όσον αφορά τις περιβαλλοντικές επιπτώσεις, τη χρήση γης και νερού και τη διάθεση περιορισμένων ενεργειακών πόρων», σημειώνει το ενημερωτικό, προσθέτοντας ότι αν οι ρυθμιστικές αρχές επιβάλουν νέες υποχρεώσεις ή χρεώσεις, η ικανότητα της εταιρείας να δραστηριοποιείται μπορεί να πληγεί.
Επιπλέον, η εταιρεία εξαρτάται από περιορισμένο αριθμό πελατών, ανάμεσα στους οποίους η SpaceX και η Microsoft, και από συγκεκριμένα κανάλια διάθεσης για μεγάλο μέρος των εσόδων της. Αυτό σημαίνει ότι ακόμη και αν μόνο ένας από τους μεγάλους πελάτες της αποφασίσει να περιορίσει τη συνεργασία – ή να την διακόψει πλήρως – η Anthropic αναφέρει πως οι προοπτικές και τα οικονομικά της αποτελέσματα θα μπορούσαν να επιδεινωθούν.
Περιορισμός των κινδύνων
Σε κάποιο βαθμό, ο τεράστιος κίνδυνος της τεχνητής νοημοσύνης, σε συνδυασμό με το τεράστιο δυναμικό της, αποτελεί το βασικό πλεονέκτημα που προβάλλει η Anthropic. Η εταιρεία επιχειρεί να τοποθετηθεί ως μια υπεύθυνη επιχείρηση τεχνητής νοημοσύνης και διεκδικεί εταιρικούς πελάτες προβάλλοντας την έμφαση που δίνει στην ασφάλεια.
«Πιστεύουμε ότι οι εταιρείες που δραστηριοποιούνται στην αιχμή της τεχνητής νοημοσύνης οφείλουν να επενδύουν στην ασφάλεια και στην ευθυγράμμιση, ώστε να συμβάλουν στη υπεύθυνη διάχυση αυτής της τεχνολογίας», αναφέρει το ενημερωτικό δελτίο.
Ο Brian Mulberry, επικεφαλής στρατηγικής αγορών στην Zacks Investment Research, υπογράμμισε ότι οι συμφωνίες αρχικής δημόσιας προσφοράς πρέπει να παρουσιάζουν «πολύ καθαρά» τους κινδύνους που αναλαμβάνουν όσοι επενδύουν τα χρήματά τους σε μια νεοεισηγμένη μετοχή.
«Ένα από τα στοιχεία που κάνουν τις εγχώριες κεφαλαιαγορές μας τόσο καλές είναι το επίπεδο διαφάνειας στο οποίο πρέπει να δεσμευτείς: για να είσαι μια εταιρεία εισηγμένη σε χρηματιστήριο των ΗΠΑ, απαιτείται να περιγράψεις αυτούς τους κινδύνους με πολύ σαφή τρόπο, ώστε ο κόσμος να καταλάβει αν θέλει να συμμετάσχει, προσφέροντας τα χρήματα που κέρδισε με κόπο και βοηθώντας στη χρηματοδότηση μιας τέτοιας συμφωνίας», είπε.