Η εταιρεία τεχνητής νοημοσύνης αρνήθηκε να παραχωρήσει απεριόριστη πρόσβαση στον στρατό - Το Πεντάγωνο επέλεξε τα μοντέλα τεχνητής νοημοσύνης της Open AI
Μετά από μήνες έντασης μεταξύ της εταιρείας τεχνητής νοημοσύνης Anthropic και του Πενταγώνου, ο Ντόναλντ Τραμπ ανακοίνωσε ότι απαγόρευσε στις ομοσπονδιακές υπηρεσίες να χρησιμοποιούν την τεχνολογία της εταιρείας.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Η απόφαση πυροδότησε νέες διαμάχες περί των ηθικών διλημμάτων σχετικά με τη χρήση της τεχνητής νοημοσύνης για στρατιωτικούς σκοπούς.
Σε δήλωσή του στην πλατφόρμα Truth Social, ο Αμερικανός πρόδρος ζήτησε από την κυβέρνησή του να «σταματήσει αμέσως κάθε χρήση» του μοντέλου τεχνητής νοημοσύνης της Anthropic. «Δεν το έχουμε ανάγκη, δεν το θέλουμε και δεν θα συνεργαζόμαστε πια μαζί τους», υπογράμμισε.
«Ο εγωισμός τους θέτει σε κίνδυνο αμερικανικές ζωές, τα στρατεύματά μας και την εθνική ασφάλεια», κατήγγειλε ο Τραμπ. «Οι ΗΠΑ δεν θα επιτρέψουν ποτέ σε μια εταιρεία woke και της άκρας αριστεράς να υπαγορεύει στον μεγάλο μας στρατό πώς να πολεμά και να κερδίζει πολέμους!», τόνισε, γράφοντας την ανάρτηση αυτή με κεφαλαία.
Η αντίδραση της Anthropic
H Anthropic δήλωσε «βαθιά θλιμμένη» για την απόφαση, ενώ σε ανακοίνωσή της εκτίμησε ότι «αυτός ο χαρακτηρισμός (σ.σ. του κινδύνου για την εφοδιαστική αλυσίδα) είναι ταυτόχρονα νομικά αβάσιμος και θα δημιουργήσει ένα επικίνδυνο προηγούμενο για οποιαδήποτε αμερικανική εταιρεία διαπραγματεύεται με την κυβέρνηση».
Παράλληλα δεσμεύθηκε να προσφύγει δικαστικά κατά της απόφασης της αμερικανικής κυβέρνησης.
«Κανένας εκφοβισμός ή κύρωση από το υπουργείο Πολέμου δεν θα αλλάξει τη στάση μας αναφορικά με τη μαζική εσωτερική παρακολούθηση ή τα πλήρως αυτόνομα οπλικά συστήματα», υπογράμμισε.
Η Anthropic αρνήθηκε την Πέμπτη να υποχωρήσει στο τελεσίγραφο του Χέγκσεθ, με το οποίο απαιτούσε από την εταιρεία να επιτρέψει στον αμερικανικό στρατό να χρησιμοποιεί χωρίς περιορισμούς το εργαλείο τεχνητής νοημοσύνης Claude.
Θεμελιώδης διαφωνία με το Πεντάγωνο
Πίσω από την απόφαση κρύβεται μια διαφωνία μεταξύ του Πενταγώνου και της Anthropic σχετικά με τη στρατιωτική χρήση του μοντέλου τεχνητής νοημοσύνης Claude της εταιρείας.
Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, έχει επανειλημμένα τονίσει ότι η εταιρεία δεν θα επιτρέψει τη χρήση των συστημάτων τεχνητής νοημοσύνης της σε δύο τομείς: Μαζική επιτήρηση εντός των ΗΠΑ και αυτόνομα οπλικά συστήματα που λειτουργούν χωρίς ανθρώπινη επίβλεψη.
"Η χρήση αυτών των συστημάτων για μαζική εσωτερική παρακολούθηση είναι ασύμβατη με τις δημοκρατικές αξίες", δήλωσε ο Amodei, σημειώνοντας ότι η τεχνητή νοημοσύνη μπορεί να διαδραματίσει σημαντικό ρόλο στην άμυνα των δημοκρατικών χωρών. Είπε επίσης ότι η τρέχουσα τεχνολογία ΤΝ δεν είναι αρκετά αξιόπιστη για την ασφαλή λειτουργία πλήρως αυτόνομων οπλικών συστημάτων.
Το Πεντάγωνο υποστηρίζει ότι θα πρέπει να έχει το δικαίωμα να χρησιμοποιεί συστήματα τεχνητής νοημοσύνης "για όλους τους νόμιμους σκοπούς".
Πρόκειται για μια πρωτοφανή αντίδραση της αμερικανικής κυβέρνησης έναντι μιας εταιρείας που είχε ηγετικό ρόλο στην κρίσιμη για την εθνική ασφάλεια AI και απειλεί να καταστήσει την Athropic παρία, ένα καθεστώς το οποίο μέχρι τώρα η Ουάσινγκτον επεφύλασσε μόνο για εχθρικούς προμηθευτές.
Μεταξύ των εταιρειών που υποστηρίζουν οικονομικά την Anthropic είναι η Google και η Amazon.com.
Εξάλλου η κίνηση αυτή δημιουργεί ακόμη ένα προηγούμενο, με βάση το οποίο μόνο η αμερικανική νομοθεσία θα μπορούσε να περιορίσει τον τρόπο με τον οποίο χρησιμοποιείται η AI στο πεδίο της μάχης, με το Πεντάγωνο να επιδιώκει να διατηρήσει κάθε ευελιξία στην άμυνα και να μην περιορίζεται από τις προειδοποιήσεις των δημιουργών των τεχνολογιών κατά της τροφοδοσίας των οπλικών συστημάτων με αναξιόπιστη τεχνητή νοημοσύνη.
Κατηγορίες από το Πεντάγωνο
Ο υπουργός Άμυνας των ΗΠΑ Πιτ Χέγκσεθ κατηγόρησε από την πλευρά του την Anthropic για «προδοσία» και επέκρινε «τα ιδεολογικά καπρίτσια των κολοσσών της τεχνολογίας». Παράλληλα της απαγόρευσε να έχει οποιαδήποτε συνεργασία, έμμεση ή άμεση, με τον αμερικανικό στρατό, και σημείωσε ότι θα χαρακτηρίσει τη νεοφυή εταιρεία κίνδυνο για την εφοδιαστική αλυσίδα.
Ο Ντόναλντ Τραμπ πρόσθεσε ότι το υπουργείο Άμυνας θα σταματήσει να χρησιμοποιεί τα προϊόντα της Anthropic σταδιακά σε διάστημα έξι μηνών. Μάλιστα απείλησε την εταιρεία ότι σε περίπτωση που δεν βοηθήσει με τη μετάβαση, θα χρησιμοποιήσει «την πλήρη ισχύ των εξουσιών της προεδρίας για να την αναγκάσω να συμμορφωθεί, με σοβαρές αστικές και ποινικές συνέπειες να ακολουθούν».
Ο εκπρόσωπος του Πενταγώνου Sean Parnell υποστήριξε ότι το αίτημα για πρόσβαση στο μοντέλο τεχνητής νοημοσύνης ήταν "ένα απλό και λογικό αίτημα για να αποτραπεί κάθε ρίσκο κρίσιμων στρατιωτικών επιχειρήσεων".
Σύμβαση 200 εκατομμυρίων δολαρίων
Η Anthropic έχει συμβόλαιο με το Πεντάγωνο για την "ανάπτυξη υπεύθυνης τεχνητής νοημοσύνης για αμυντικές επιχειρήσεις" αξίας έως και 200 εκατομμυρίων δολαρίων.
Η εταιρεία παρέχει επίσης συστήματα τεχνητής νοημοσύνης μέσω της Palantir για χρήση σε διαβαθμισμένα δίκτυα άμυνας και πληροφοριών. Η Anthropic ήταν μία από τις πρώτες μεγάλες εταιρείες τεχνητής νοημοσύνης που έλαβαν άδεια να παρέχουν υπηρεσίες σε τέτοια διαβαθμισμένα δίκτυα.
Κριτική από το Κογκρέσο στο Πεντάγωνο
Μέλη των Δημοκρατικών στο Κογκρέσο αντέδρασαν στην προσέγγιση του Πενταγώνου.
Σε επιστολή τους προς τον υπουργό Άμυνας Πιτ Χεγκσεθ, οι γερουσιαστές Ed Markey και Chris Van Hollen χαρακτήρισαν την προσπάθεια του Πενταγώνου να αναγκάσει μια αμερικανική εταιρεία να εγκαταλείψει τα μέτρα ασφαλείας ως "ανησυχητική κατάχρηση εξουσίας".
Ο George Whitesides, μέλος της Βουλής των Αντιπροσώπων, προειδοποίησε επίσης ότι ο εξαναγκασμός των εταιρειών από το Πεντάγωνο να αλλάξουν γρήγορα πολιτική θα οδηγήσει στη χρήση τεχνητής νοημοσύνης χωρίς επαρκή μέτρα ασφαλείας.
Η OpenAI επωφελείται
«Σήμερα το βράδυ καταλήξαμε σε συμφωνία με το υπουργείο Πολέμου προκειμένου να αναπτύξουμε τα μοντέλα μας στο διαβαθμισμένο δίκτυό τους», έγραψε στο Χ ο επικεφαλής της OpenAI Σαμ Άλτμαν χρησιμοποιώντας το όνομα που έχει δώσει στο υπουργείο Άμυνας η κυβέρνηση Τραμπ.
Σύμφωνα με τον Άλτμαν, σε αυτή τη συμφωνία περιλαμβάνεται «η απαγόρευση μαζικής παρακολούθησης σε εθνικό επίπεδο και η ανθρώπινη ευθύνη στη χρήση βίας, ακόμη και στα συστήματα αυτόματων οπλικών συστημάτων», δηλαδή ακριβώς οι όροι που είχε θέσει προηγουμένως η Anthropic για να δεχθεί τη χρήση των μοντέλων της AI από το Πεντάγωνο.
«Θα εφαρμόσουμε επίσης τεχνικές εγγυήσεις προκειμένου να διασφαλίσουμε ότι τα μοντέλα μας θα συμπεριφέρονται όπως πρέπει, κάτι που επιθυμεί και το υπουργείο Πολέμου», συνέχισε ο Άλτμαν.
Ο διευθύνων σύμβουλος της OpenAI, δήλωσε προηγουμένως σε εσωτερικό σημείωμα ότι θα έπαιρνε παρόμοια θέση με την Anthropic σε μια παρόμοια κατάσταση.
"Πιστεύουμε εδώ και καιρό ότι η τεχνητή νοημοσύνη δεν πρέπει να χρησιμοποιείται για μαζική επιτήρηση ή αυτόνομα θανατηφόρα όπλα. Η ανθρώπινη επίβλεψη είναι απαραίτητη σε κρίσιμες διαδικασίες λήψης αποφάσεων", δήλωσε.
Ο Αλτμαν τόνισε επίσης ότι αυτή η κρίση δεν είναι πλέον μόνο μια διαμάχη μεταξύ της Anthropic και του Πενταγώνου, αλλά έχει γίνει ένα ζήτημα που αφορά ολόκληρη τη βιομηχανία τεχνητής νοημοσύνης.
Ανακοινώνοντας τη συμφωνία της OpenAI με το Πεντάγωνο ο Άλτμαν δήλωσε ότι ζήτησε από το υπουργείο «να προσφέρει τους ίδιους όρους σε όλες τις εταιρείες AI». «Εκφράσαμε την έντονη επιθυμία μας να δούμε τα πράγματα να ηρεμούν, μακριά από νομικές και κυβερνητικές ενέργειες, ώστε να καταλήξουμε σε λογικές συμφωνίες», επεσήμανε.