Αναφορές για χρήση του Claude σε στρατιωτικό σχεδιασμό προκαλούν ανησυχία για την ταχύτητα με την οποία ενσωματώνεται η AI στις πολεμικές επιχειρήσεις
Δημοσιεύματα μέσων ενημέρωσης ότι ο αμερικανικός στρατός χρησιμοποίησε το chatbot τεχνητής νοημοσύνης Claude της εταιρείας Anthropic σε επιχειρήσεις που στόχευαν ηγέτες στη Βενεζουέλα και το Ιράν εγείρουν νέα ερωτήματα σχετικά με το πόσο γρήγορα ενσωματώνεται η τεχνητή νοημοσύνη στον πόλεμο.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Αμερικανικά μέσα ενημέρωσης ανέφεραν ότι το Claude χρησιμοποιήθηκε για να βοηθήσει στον συντονισμό μιας επιχείρησης τον Ιανουάριο που οδήγησε στη σύλληψη του ηγέτη της Βενεζουέλας Νικολάς Μαδούρο. Παρόμοιες αναφορές εμφανίστηκαν αργότερα ότι το chatbot χρησιμοποιήθηκε επίσης κατά την προετοιμασία επιχείρησης που στόχευε τον εκλιπόντα ανώτατο ηγέτη του Ιράν Αγιατολάχ Αλί Χαμενεΐ.
Οι ειδικοί λένε ότι τα περιστατικά αυτά προσφέρουν μια σπάνια ματιά στο πώς προηγμένα συστήματα τεχνητής νοημοσύνης ενδέχεται ήδη να υποστηρίζουν τον στρατιωτικό σχεδιασμό και τις υπηρεσίες πληροφοριών των Ηνωμένων Πολιτειών.
«Ήταν πολύ έκπληξη να δούμε την ξαφνική ανάπτυξη αυτών των εργαλείων, ειδικά όταν πιστεύω ότι η ευρύτερη κοινότητα δεν θεωρεί ότι είναι έτοιμα για τέτοια χρήση», δήλωσε η Χέιντι Κλαάφ, επικεφαλής επιστήμονας τεχνητής νοημοσύνης στο αμερικανικό think tank AI Now Institute.
«Αναρωτιόμαστε αν αυτά τα μοντέλα τεχνητής νοημοσύνης μπορούν να είναι επιτυχημένα σε οποιοδήποτε στρατιωτικό περιβάλλον, δεδομένων των αδυναμιών τους», είπε στο Euronews Next.
Η Κλαάφ σημείωσε ότι ερευνητές έχουν προειδοποιήσει πως τα μεγάλα γλωσσικά μοντέλα μπορεί να παράγουν αναξιόπιστες ή λανθασμένες απαντήσεις, γεγονός που εγείρει ανησυχίες για το πώς θα μπορούσαν να λειτουργήσουν σε περιβάλλοντα υψηλού κινδύνου, όπως οι στρατιωτικές επιχειρήσεις.
Η αναφερόμενη χρήση του Claude έρχεται επίσης σε μια περίοδο που η κυβέρνηση του Ντόναλντ Τραμπ προωθεί μια φιλόδοξη στρατηγική ώστε ο αμερικανικός στρατός να γίνει «AI-first», υποστηρίζοντας ότι η ταχεία υιοθέτηση της τεχνολογίας είναι απαραίτητη για να ανταγωνιστεί αντιπάλους όπως η Κίνα.
«Αίσθηση επείγοντος» για την ανάπτυξη της AI
Οι Ηνωμένες Πολιτείες χρησιμοποιούν διάφορες μορφές αυτοματοποιημένης τεχνολογίας στον στρατό ήδη από τη δεκαετία του 2010, και το ζήτημα αποτελεί προτεραιότητα για αρκετούς προέδρους, μεταξύ των οποίων οι Μπαράκ Ομπάμα και Τζο Μπάιντεν, σύμφωνα με ειδικούς που μίλησαν στο Euronews Next.
Τα πρώτα συστήματα τεχνητής νοημοσύνης χρησιμοποιήθηκαν κυρίως για εφοδιαστική, συντήρηση ή μεταφράσεις, σύμφωνα με την Έλκε Σβαρτς, καθηγήτρια πολιτικής θεωρίας στο Πανεπιστήμιο Κουίν Μέρι του Λονδίνου.
Η δεύτερη προεδρική θητεία του Τραμπ επιταχύνει την υιοθέτηση γενετικής τεχνητής νοημοσύνης, όπως το ChatGPT της OpenAI ή το Claude της Anthropic, σε έναν «αγώνα εξοπλισμών τεχνητής νοημοσύνης» με τους αντιπάλους των ΗΠΑ, όπως υποστηρίζουν τόσο η Σβαρτς όσο και η Κλαάφ.
Οι πολιτικές των ΗΠΑ δημιουργούν μια «αίσθηση επείγοντος» για την ανάπτυξη της τεχνητής νοημοσύνης, καθώς θεωρείται πολύτιμη τεχνολογία που θα διατηρήσει τη χώρα μπροστά από τους αντιπάλους της, δήλωσε ο Γιώργος Βέρντι, αναλυτής πολιτικής στο Ευρωπαϊκό Συμβούλιο Εξωτερικών Σχέσεων.
Η στρατηγική AI Acceleration του Υπουργείου Πολέμου των ΗΠΑ στοχεύει στη διασφάλιση της στρατιωτικής υπεροχής της χώρας, καταργώντας εμπόδια στην ενσωμάτωση της τεχνητής νοημοσύνης και επενδύοντας σε στρατηγικά έργα.
«Η ιδέα είναι να εισαχθεί η τεχνητή νοημοσύνη σε κάθε είδους τομέα, τόσο σε ακίνδυνες όσο και σε πιο επικίνδυνες εφαρμογές», δήλωσε η Σβαρτς.
Όπως σημείωσε, προηγούμενες κυβερνήσεις ήταν πιο προσεκτικές στη δημιουργία κανόνων ασφαλείας για το πώς και πότε μπορούν να χρησιμοποιηθούν τέτοιες τεχνολογίες.
Στο πλαίσιο αυτής της στρατηγικής δημιουργήθηκε η βάση δεδομένων genai.mil, η οποία επιτρέπει σε κρατικούς αξιωματούχους να έχουν πρόσβαση σε chatbots τεχνητής νοημοσύνης, μεταξύ των οποίων τα Gemini της Google και Grok της xAI.
Ο προϋπολογισμός της κυβέρνησης για το 2025, γνωστός ως «Big Beautiful Bill», περιλαμβάνει επίσης εκατοντάδες εκατομμύρια δολάρια για στρατιωτικά έργα που σχετίζονται με την τεχνητή νοημοσύνη.
Το έγγραφο προβλέπει:
- 650 εκατομμύρια δολάρια για στρατιωτική καινοτομία
- 145 εκατομμύρια δολάρια για ανάπτυξη συστημάτων αντιμετώπισης drones με τεχνητή νοημοσύνη
- 250 εκατομμύρια δολάρια για την ανάπτυξη του οικοσυστήματος AI
- 250 εκατομμύρια δολάρια για ενίσχυση των δυνατοτήτων τεχνητής νοημοσύνης σε κέντρο Cyber Command
- 115 εκατομμύρια δολάρια για επιτάχυνση αποστολών εθνικής πυρηνικής ασφάλειας με χρήση AI.
Ο αμερικανικός στρατός βρίσκεται ακόμη σε «πειραματική φάση»
Λόγω της «εγγενούς έλλειψης διαφάνειας», είναι δύσκολο να καθοριστεί πόσο προχωρημένα είναι τα σχέδια της αμερικανικής κυβέρνησης, σημείωσε η Σβαρτς.
«Σε αντίθεση με ένα συγκεκριμένο όπλο ή σύστημα πυρομαχικών, δεν μπορείς πραγματικά να δεις τι χρησιμοποιείται. Όλα συμβαίνουν μέσα σε ένα interface και σε μεγάλο βαθμό στη ζώνη της αορατότητας», είπε.
Η ίδια εκτιμά ότι ο αμερικανικός στρατός βρίσκεται σε «πειραματική φάση», δοκιμάζοντας διαφορετικές εταιρείες τεχνητής νοημοσύνης για να κατανοήσει τις δυνατότητες και τους περιορισμούς τους.
Η συνεργασία της Anthropic ύψους 200 εκατομμυρίων δολαρίων με τον αμερικανικό στρατό αφορά ένα διετές πιλοτικό πρόγραμμα για την ενίσχυση της εθνικής ασφάλειας.
Η εταιρεία θα συνεργαστεί με το υπουργείο για να προβλέπει και να περιορίζει πιθανές εχθρικές χρήσεις της τεχνητής νοημοσύνης, καθώς και για να εντοπίζει κινδύνους από την ευρεία υιοθέτησή της στον αμυντικό τομέα.
Η Σβαρτς εκτιμά ότι αυτό υποδηλώνει πως τα συστήματα δοκιμάζονται σε πραγματικές επιχειρησιακές συνθήκες, κάτι που εγείρει ηθικά ζητήματα.
«Είναι μια τρομερή πρακτική για κάτι που αφορά ανθρώπινες ζωές», δήλωσε.
Ωστόσο, ο Βέρντι θεωρεί ότι συστήματα όπως το Claude χρησιμοποιήθηκαν στις περιπτώσεις της Βενεζουέλας και του Ιράν κυρίως για πιο συνηθισμένες εργασίες, όπως η συλλογή ή ανάλυση δορυφορικών εικόνων.
«Ένας άνθρωπος μπορεί να μην είναι σε θέση να αναλύσει κάθε κομμάτι πληροφοριών που φτάνει. Εκεί η τεχνητή νοημοσύνη μπορεί να το κάνει πολύ πιο γρήγορα», είπε.
«Στη συνέχεια οι άνθρωποι ερμηνεύουν τα αποτελέσματα της AI και ενεργούν ανάλογα», πρόσθεσε.
Ανησυχίες για αυτόνομα όπλα με τεχνητή νοημοσύνη
Οι ερευνητές ανησυχούν ότι ο αυξανόμενος ρόλος της τεχνητής νοημοσύνης στον στρατιωτικό σχεδιασμό των ΗΠΑ θα μπορούσε τελικά να οδηγήσει στην ανάπτυξη αυτόνομων οπλικών συστημάτων.
«Υπάρχει σαφώς ενδιαφέρον τουλάχιστον για να υπάρχει η επιλογή ανάπτυξης πλήρως αυτόνομων όπλων με τεχνητή νοημοσύνη», δήλωσε ο Βέρντι.
Τέτοια όπλα θα μπορούσαν να εντοπίζουν, να επιλέγουν και να πλήττουν στόχους χωρίς ανθρώπινη συμμετοχή στην τελική απόφαση, εξήγησε η Κλαάφ.
«Αντί να παίρνει ο άνθρωπος μια σύσταση από ένα μοντέλο τεχνητής νοημοσύνης και να αποφασίζει αν θα την εφαρμόσει, η διαδικασία θα μπορούσε να αυτοματοποιηθεί πλήρως», είπε.
Ένα από τα βασικά επιχειρήματα για την ανάπτυξη τέτοιων συστημάτων είναι ο φόβος ότι οι Ηνωμένες Πολιτείες θα μείνουν πίσω αν κάποιος αντίπαλος τα αναπτύξει πρώτος.
Ωστόσο, σύμφωνα με τους Βέρντι και Κλαάφ, δεν υπάρχουν δημόσιες πληροφορίες ότι η Κίνα έχει ενσωματώσει τεχνητή νοημοσύνη στον στρατό της.
Οι Κινέζοι είναι «πολύ προσεκτικοί στο να διατηρούν τον έλεγχο αυτής της τεχνολογίας», πρόσθεσε ο Βέρντι.
Οι δυνατότητες τεχνητής νοημοσύνης άλλων αντιπάλων των ΗΠΑ, όπως η Ρωσία, το Ιράν ή η Βόρεια Κορέα, θεωρούνται ακόμη λιγότερο εξελιγμένες.
Η ανάπτυξη πλήρως αυτόνομων όπλων με τεχνητή νοημοσύνη θα μπορούσε επίσης να οδηγήσει σε κλιμάκωση συγκρούσεων, προειδοποίησε ο Βέρντι.
Μια πρόσφατη μελέτη του King’s College London έδειξε ότι chatbots τεχνητής νοημοσύνης σχεδόν πάντα επέλεγαν να απειλήσουν με χρήση πυρηνικών όπλων σε προσομοίωση πολέμου.
Το Πεντάγωνο μπροστά σε «δύσκολη μετάβαση» μετά το Claude
Ο Βέρντι εκτιμά ότι οι Ηνωμένες Πολιτείες θα συνεχίσουν να χρησιμοποιούν το Claude ή κάποιο άλλο chatbot τεχνητής νοημοσύνης στις επιχειρήσεις τους, καθώς οι αποστολές στη Βενεζουέλα και το Ιράν θεωρήθηκαν ιδιαίτερα αποτελεσματικές.
Η επιτυχία αυτών των επιχειρήσεων δημιουργεί τον κίνδυνο οι ΗΠΑ να χαλαρώσουν ακόμη περισσότερο τους κανόνες ασφαλείας, όπως την ανθρώπινη εποπτεία, για να καταστήσουν την τεχνολογία πιο αποτελεσματική.
Ωστόσο, η κυβέρνηση σκοπεύει να αποσύρει σταδιακά το Claude μέσα στους επόμενους έξι μήνες, καθώς η εταιρεία Anthropic αρνήθηκε να δώσει στον στρατό απεριόριστη πρόσβαση στην τεχνολογία της, η οποία θα μπορούσε — σύμφωνα με την εταιρεία — να χρησιμοποιηθεί για μαζική επιτήρηση ή ανάπτυξη αυτόνομων όπλων.
Η εξέλιξη αυτή έγινε γνωστή μέσω δήλωσης του υπουργού Πολέμου των ΗΠΑ Πιτ Χέγκσεθ.
Η Anthropic ανέφερε ότι το Claude έχει ήδη εγκατασταθεί στα διαβαθμισμένα δίκτυα πληροφοριών της αμερικανικής κυβέρνησης, χρησιμοποιείται σε εθνικά πυρηνικά εργαστήρια και πραγματοποιεί αναλύσεις πληροφοριών απευθείας για το Υπουργείο Πολέμου.
Παράλληλα, το Υπουργείο Πολέμου υπέγραψε σύμβαση με την OpenAI για την ενσωμάτωση προηγμένων συστημάτων τεχνητής νοημοσύνης σε διαβαθμισμένα περιβάλλοντα, λίγες ώρες μετά την ακύρωση της συμφωνίας με την Anthropic.
«Το Υπουργείο Πολέμου θα αντιμετωπίσει μια δύσκολη μετάβαση, αλλά δεν είναι αδύνατο να αντικαταστήσει το Claude με ένα νέο σύστημα τεχνητής νοημοσύνης», δήλωσε ο Βέρντι.
Οι πληροφορίες που συνέλεξε και παρείχε το Claude πιθανότατα θα παραμείνουν στη διάθεση του υπουργείου και θα μπορούν να αξιοποιηθούν από τον επόμενο πάροχο τεχνητής νοημοσύνης, κατέληξε.