Στην επιστολή, εργαζόμενοι της Google προειδοποιούν ότι η τεχνολογία μπορεί να χρησιμοποιηθεί από το Πεντάγωνο με «απάνθρωπους» τρόπους, όπως για μαζική παρακολούθηση και φονικά αυτόνομα όπλα.
Περισσότεροι από 600 εργαζόμενοι της Google καλούν την εταιρεία να απορρίψει μια πιθανή συμφωνία με το Πεντάγωνο, η οποία θα επέτρεπε να χρησιμοποιηθεί η τεχνητή νοημοσύνη της σε μυστικές στρατιωτικές επιχειρήσεις, σύμφωνα με ανακοίνωση που δόθηκε στη δημοσιότητα τη Δευτέρα.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
«Θέλουμε να δούμε την τεχνητή νοημοσύνη να ωφελεί την ανθρωπότητα και όχι να χρησιμοποιείται με απάνθρωπους ή εξαιρετικά επιζήμιους τρόπους», αναφέρεται στην ανοιχτή επιστολή (πηγή στα Αγγλικά) που απευθύνεται στον διευθύνοντα σύμβουλο της Google, Sundar Pichai. «Αυτό περιλαμβάνει τα αυτόνομα φονικά όπλα και τη μαζική παρακολούθηση, αλλά δεν περιορίζεται σε αυτά».
Η επιστολή, την οποία υπογράφουν εργαζόμενοι από τις ομάδες Google DeepMind, Cloud και άλλα τμήματα, έρχεται τη στιγμή που ο τεχνολογικός κολοσσός διαπραγματεύεται με το αμερικανικό υπουργείο Άμυνας την πιθανή χρήση του μοντέλου τεχνητής νοημοσύνης Gemini σε απόρρητα περιβάλλοντα.
Πάνω από 20 διευθυντές, ανώτεροι διευθυντές και αντιπρόεδροι έχουν βάλει ανοιχτά την υπογραφή τους.
«Οι διαβαθμισμένες εργασίες είναι εκ των πραγμάτων αδιαφανείς», δήλωσε ένας από τους εργαζόμενους που οργανώνουν την πρωτοβουλία, το όνομα του οποίου δεν αναφέρεται στην ανακοίνωση.
«Αυτή τη στιγμή δεν υπάρχει τρόπος να διασφαλιστεί ότι τα εργαλεία μας δεν θα αξιοποιηθούν για να προκαλέσουν τρομερή βλάβη ή να υπονομεύσουν τα πολιτικά δικαιώματα μακριά από τον δημόσιο έλεγχο. Μιλάμε για πρακτικές όπως η δημιουργία προφίλ ατόμων ή η στόχευση αθώων πολιτών».
Η επιστολή δημοσιοποιείται ενώ οι εταιρείες τεχνολογίας δέχονται ολοένα και μεγαλύτερη πίεση να ξεκαθαρίσουν πώς μπορούν να χρησιμοποιούνται τα εργαλεία AI τους από τον στρατό και τις υπηρεσίες πληροφοριών, μετά τη διένεξη ανάμεσα στο Πεντάγωνο και την εταιρεία τεχνητής νοημοσύνης Anthropic.
Η Anthropic είχε προηγουμένως μηνύσει το αμερικανικό υπουργείο Άμυνας, αφότου χαρακτηρίστηκε «κίνδυνος για την εφοδιαστική αλυσίδα», επειδή ζήτησε τα συστήματά της να μην χρησιμοποιούνται για μαζική παρακολούθηση ή αυτόνομο πόλεμο.
Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δήλωσε ότι «δεν μπορώ με καθαρή συνείδηση να αποδεχθώ το αίτημα του Πενταγώνου» για απεριόριστη πρόσβαση στα συστήματα τεχνητής νοημοσύνης της εταιρείας.
«Σε ένα περιορισμένο σύνολο περιπτώσεων πιστεύουμε ότι η τεχνητή νοημοσύνη μπορεί να υπονομεύσει, αντί να υπερασπιστεί, τις δημοκρατικές αξίες», έγραψε ο Amodei. «Ορισμένες χρήσεις είναι επίσης απλώς πέρα από τα όρια όσων μπορεί να κάνει με ασφάλεια και αξιοπιστία η σημερινή τεχνολογία».
Σε απάντηση της απόφασης του Amodei, ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ διέταξε τις ομοσπονδιακές υπηρεσίες να σταματήσουν να χρησιμοποιούν το chatbot Claude.
Σύμφωνα με τους διοργανωτές της επιστολής, η Google έχει προτείνει διατύπωση στη σύμβαση που θα εμποδίζει τη χρήση του Gemini για εσωτερική μαζική παρακολούθηση ή για αυτόνομα όπλα χωρίς την κατάλληλη ανθρώπινη εποπτεία.
Το Πεντάγωνο, ωστόσο, πιέζει για μια ευρύτερη διατύπωση τύπου «κάθε νόμιμη χρήση», υποστηρίζοντας ότι είναι αναγκαία για τη διατήρηση της επιχειρησιακής ευελιξίας. Οι εργαζόμενοι λένε ότι τέτοιες δικλίδες ασφαλείας θα είναι δύσκολο να εφαρμοστούν στην πράξη, επικαλούμενοι τις υφιστάμενες πολιτικές του Πενταγώνου που περιορίζουν τον εξωτερικό έλεγχο στα συστήματα AI του.
Η πρόσφατη αυτή παρέμβαση του προσωπικού της Google παραπέμπει στις κινητοποιήσεις εργαζομένων του 2018, οι οποίες οδήγησαν την εταιρεία να αποχωρήσει από το Project Maven, μια πρωτοβουλία του Πενταγώνου για τη χρήση AI στην ανάλυση εικόνων από drones.
«Πιστεύουμε ότι η Google δεν πρέπει να δραστηριοποιείται στον πόλεμο», ανέφερε η επιστολή.
«Γι’ αυτό ζητούμε την ακύρωση του Project Maven και την εκπόνηση, δημοσιοποίηση και εφαρμογή από τη Google μιας σαφούς πολιτικής που να δηλώνει ότι ούτε η ίδια ούτε οι συνεργάτες της θα αναπτύξουν ποτέ τεχνολογία για πολεμικούς σκοπούς».