Η εταιρεία τεχνητής νοημοσύνης Anthropic και το Πεντάγωνο των ΗΠΑ βρίσκονται σε αδιέξοδο. Εδώ θα βρείτε όσα χρειάζεται να γνωρίζετε.
Η κυβέρνηση των Ηνωμένων Πολιτειών απειλεί να τερματίσει τα στρατιωτικά συμβόλαια με την εταιρεία Anthropic, αν δεν ανοίξει την τεχνολογία τεχνητής νοημοσύνης της για απεριόριστη στρατιωτική χρήση, όμως η εταιρεία τεχνολογίας επιμένει στη στάση της.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ανέφερε σε δήλωσή (πηγή στα Αγγλικά) του στις 26 Φεβρουαρίου ότι «δεν μπορώ, με βάση τη συνείδησή μου, να αποδεχθώ το αίτημα του Πενταγώνου» για ανεμπόδιστη πρόσβαση στα συστήματα τεχνητής νοημοσύνης της εταιρείας.
«Σε ένα περιορισμένο σύνολο περιπτώσεων, πιστεύουμε ότι η τεχνητή νοημοσύνη μπορεί να υπονομεύσει, αντί να υπερασπιστεί, τις δημοκρατικές αξίες», έγραψε. «Ορισμένες χρήσεις ξεφεύγουν επίσης απλώς από τα όρια όσων μπορεί σήμερα η τεχνολογία να κάνει με ασφάλεια και αξιοπιστία».
Η δήλωση του Αμοντέι εκδόθηκε λιγότερο από 24 ώρες πριν από την προθεσμία της Παρασκευής που είχε θέσει το Υπουργείο Πολέμου, προκειμένου να αποκτήσει πλήρη πρόσβαση στο Claude.
Η Anthropic είναι η εταιρεία πίσω από το chatbot Claude και είναι η τελευταία από τις ομοειδείς της που δεν έχει διαθέσει την τεχνολογία της σε ένα νέο εσωτερικό δίκτυο του αμερικανικού στρατού.
Η Anthropic εξασφάλισε τον Ιούλιο του περασμένου έτους συμβόλαιο ύψους 200 εκατ. δολαρίων (167 εκατ. ευρώ) από το Υπουργείο Άμυνας των ΗΠΑ για να «αναπτύξει πρωτότυπες προηγμένες δυνατότητες ΤΝ που ενισχύουν την εθνική ασφάλεια των ΗΠΑ», όπως ανέφερε η ίδια η εταιρεία. Το 2024 υπέγραψε επίσης συνεργασία (πηγή στα Αγγλικά) με την Palantir Technologies για την ενσωμάτωση του Claude στο λογισμικό των αμερικανικών υπηρεσιών πληροφοριών.
Σύμφωνα με πληροφορίες, ο υπουργός Άμυνας Πιτ Χέγκσεθ δήλωσε στις 24 Φεβρουαρίου ότι θα ακυρώσει το συμβόλαιο των 200 εκατ. δολαρίων (167 εκατ. ευρώ) και θα χαρακτηρίσει την εταιρεία «κίνδυνο για την εφοδιαστική αλυσίδα», εάν η Anthropic δεν συμμορφωθεί.
Εάν η Anthropic χαρακτηριστεί κίνδυνος για την εφοδιαστική αλυσίδα βάσει της αμερικανικής νομοθεσίας (πηγή στα Αγγλικά) περί δημόσιων προμηθειών, η κυβέρνηση θα μπορεί να αποκλείει την εταιρεία από τη διεκδίκηση συμβάσεων, να αφαιρεί τα προϊόντα της από τη σχετική διαδικασία και να υποδεικνύει στους κύριους αναδόχους να μην χρησιμοποιούν τον συγκεκριμένο προμηθευτή.
Δημοσιεύματα σχετικά με τη συνάντηση Χέγκσεθ – Αμοντέι αναφέρουν επίσης ότι ο υπουργός απείλησε να ενεργοποιήσει εναντίον της εταιρείας τον Νόμο περί Αμυντικής Παραγωγής (πηγή στα Αγγλικά), ο οποίος δίνει στον πρόεδρο των ΗΠΑ ευρείες εξουσίες να διατάζει ιδιωτικές εταιρείες να δίνουν προτεραιότητα στις ανάγκες εθνικής ασφάλειας, συμπεριλαμβανομένης της πρόσβασης στην τεχνολογία τους.
Στη δήλωσή του, ο Αμοντέι υπογράμμισε ότι τα συμβόλαια με το Υπουργείο Πολέμου δεν θα πρέπει να περιλαμβάνουν περιπτώσεις όπου το Claude χρησιμοποιείται για μαζική εσωτερική παρακολούθηση ή ενσωματώνεται σε πλήρως αυτόνομα όπλα.
Πρόσθεσε ότι πιστεύει πως αυτές οι ασφαλιστικές δικλείδες είναι η αιτία για την απειλή του Υπουργείου να αποσύρει την Anthropic από τη στρατιωτική χρήση στις ΗΠΑ.
Σύμφωνα με τον ίδιο, οι δύο απειλές είναι «εκ φύσεως αντιφατικές», καθώς η μία χαρακτηρίζει την Anthropic κίνδυνο για την ασφάλεια, ενώ η άλλη δηλώνει ότι το Claude είναι «απαραίτητο για την εθνική ασφάλεια».
Αναγνώρισε ότι το Υπουργείο Πολέμου μπορεί να επιλέγει για τα συμβόλαιά του συνεργάτες που ευθυγραμμίζονται περισσότερο με το όραμά του, αλλά, όπως είπε, «δεδομένης της σημαντικής αξίας που προσφέρει η τεχνολογία της Anthropic στις ένοπλες δυνάμεις μας, ελπίζουμε να το ξανασκεφτούν».
Το chatbot τεχνητής νοημοσύνης έχει ήδη υιοθετηθεί στα δίκτυα διαβαθμισμένων πληροφοριακών συστημάτων της αμερικανικής κυβέρνησης, χρησιμοποιείται στα εθνικά πυρηνικά εργαστήρια και εκτελεί απευθείας αναλύσεις πληροφοριών για το Υπουργείο Πολέμου.
Το Euronews Next ζήτησε σχόλιο από το Υπουργείο Πολέμου της αμερικανικής κυβέρνησης, αλλά δεν έλαβε άμεση απάντηση.
Η Anthropic υπαναχωρεί από βασική δέσμευση για την ασφάλεια
Η Anthropic έχει επί χρόνια παρουσιάσει τον εαυτό της ως την πιο υπεύθυνη και προσανατολισμένη στην ασφάλεια από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης, από τότε που οι ιδρυτές της αποχώρησαν από την OpenAI για να δημιουργήσουν τη νεοφυή επιχείρηση το 2021.
Την Τρίτη, η Anthropic δήλωσε σε συνέντευξή της στο περιοδικό Time ότι εγκαταλείπει τη δέσμευσή της πως δεν θα κυκλοφορήσει σύστημα ΤΝ αν δεν μπορεί να εγγυηθεί ότι τα μέτρα ασφαλείας είναι επαρκή.
Αντ’ αυτού, παρουσίασε μια νέα εκδοχή της πολιτικής «υπεύθυνης κλιμάκωσης», η οποία περιγράφει το πλαίσιο της εταιρείας για την αντιμετώπιση καταστροφικών κινδύνων από την ΤΝ.
Ο Τζάρεντ Κάπλαν, επιστημονικός διευθυντής της Anthropic, δήλωσε στο περιοδικό ότι το να εμποδιστεί η εταιρεία να εκπαιδεύει νέα μοντέλα, ενώ οι ανταγωνιστές της προχωρούν χωρίς ανάλογα μέτρα προστασίας, δεν θα τη βοηθούσε να παραμείνει στον αγώνα για την πρωτοκαθεδρία στην ΤΝ.
«Αν ένας δημιουργός συστημάτων ΤΝ σταματούσε την ανάπτυξη για να εφαρμόσει μέτρα ασφαλείας, ενώ άλλοι προχωρούσαν στην εκπαίδευση και ανάπτυξη συστημάτων ΤΝ χωρίς ισχυρές δικλείδες, αυτό θα μπορούσε να οδηγήσει σε έναν κόσμο λιγότερο ασφαλή», αναφέρει η νέα πολιτική της Anthropic.
«Οι δημιουργοί με τις πιο αδύναμες προστασίες θα όριζαν τον ρυθμό και οι υπεύθυνοι δημιουργοί θα έχαναν τη δυνατότητα να κάνουν έρευνα για την ασφάλεια και να προάγουν το δημόσιο όφελος».
Η πολιτική διαχωρίζει τις φιλοδοξίες της Anthropic να επιβάλει πρότυπα ασφαλείας στον κλάδο από τους δικούς της στόχους ως εταιρεία, στην οποία η ασφάλεια εξακολουθεί, όπως λέει, να αποτελεί προτεραιότητα.
Η Anthropic αναφέρει ότι η νέα πολιτική σημαίνει πως η εταιρεία θα θέτει «φιλόδοξους αλλά εφικτούς» οδικούς χάρτες ασφάλειας για τα μοντέλα της και θα δημοσιεύει εκθέσεις κινδύνου, στις οποίες θα περιγράφονται οι προβλεπόμενοι κίνδυνοι και το κατά πόσο δικαιολογείται η κυκλοφορία κάθε μοντέλου.
Το άρθρο ενημερώθηκε στις 27 Φεβρουαρίου.