Η Anthropic ανακοίνωσε ότι πλατφόρμα που συνδέεται με εταιρεία στην Κωνσταντινούπολη χρησιμοποίησε το Claude για να στοχεύσει ψηφοφόρους στη Μαλαισία· η έκθεση μιλά και για κυβερνοεπιθέσεις και έρευνες για βιολογικά όπλα.
Η εταιρεία τεχνητής νοημοσύνης Anthropic ανακοίνωσε ότι μια πλατφόρμα που, όπως υποστηρίζει, συνδέεται με την εταιρεία BBS Bilişim Teknolojileri Ltd. Şti με έδρα την Κωνσταντινούπολη, χρησιμοποιούσε τα μοντέλα Claude σε δραστηριότητες χειραγώγησης εκλογών με στόχο ψηφοφόρους στη Μαλαισία.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Σύμφωνα με την έκθεση πληροφοριών για απειλές που δημοσίευσε η εταιρεία την Πέμπτη, η πλατφόρμα αποτελούνταν από περίπου 1.000 ψεύτικους λογαριασμούς στο X, έναν ψευδή ειδησεογραφικό ιστότοπο με την ονομασία «Malaysia Pulse» και κατασκευασμένους φακέλους. Η Anthropic ανέφερε ότι η πλατφόρμα παρείχε επί πληρωμή υπηρεσίες επηρεασμού της κοινής γνώμης.
Στην έκθεση υποστηρίζεται ότι οι ψηφοφόροι προφίλθηκαν ανά εκλογική περιφέρεια, ότι τα στατιστικά αλληλεπίδρασης διογκώθηκαν μέσω ψεύτικων λογαριασμών και ότι κατασκευάστηκαν αβάσιμοι ισχυρισμοί σε βάρος ενός αντιπολιτευόμενου πολιτικού και οργανώσεων της κοινωνίας των πολιτών.
Η Anthropic ανακοίνωσε ότι έκλεισε τον σχετικό λογαριασμό. Παράλληλα όμως ανέφερε ότι δεν υπάρχουν αποδείξεις πως η δραστηριότητα είχε ευρεία διάδοση σε πραγματικές κοινότητες χρηστών και ότι δεν μπόρεσε να επαληθεύσει ανεξάρτητα τα στοιχεία αλληλεπίδρασης που εμφάνιζε η ίδια η πλατφόρμα.
Η δραστηριότητα με σύνδεση στην Τουρκία καταγράφηκε ως μία από τις εννέα επιχειρήσεις επιρροής που εξετάζονται στην έκθεση. Σύμφωνα με την εταιρεία, άλλα παραδείγματα προέρχονται από τη Ρωσία, το Ιράν, χώρες του Κόλπου, τη Νότια Ασία, την Αφρική και την Ευρώπη.
Η Anthropic σημείωσε ότι σε αυτού του τύπου τις επιχειρήσεις χρησιμοποιούνται λογαριασμοί στα μέσα κοινωνικής δικτύωσης που φαίνεται να ανήκουν σε απλούς ανθρώπους, για να διαδίδουν περιεχόμενο υπέρ μιας συγκεκριμένης πολιτικής άποψης. Σύμφωνα με την εταιρεία, ενώ οι πλατφόρμες κοινωνικής δικτύωσης εντοπίζουν συνήθως τέτοιες επιχειρήσεις αφού οι αναρτήσεις έχουν ήδη κυκλοφορήσει, η Anthropic μπορεί να τις δει μέσω του Claude ήδη από το στάδιο της προετοιμασίας.
Κυβερνοεπιθέσεις και παρακολούθηση επίσης στην έκθεση
Η έκθεση, που καλύπτει την περίοδο από τον Δεκέμβριο του 2025 έως τον Αύγουστο του 2026, περιλαμβάνει επίσης παραδείγματα κατάχρησης της τεχνητής νοημοσύνης σε έρευνες που θα μπορούσαν να αξιοποιηθούν για κυβερνοεπιθέσεις, παρακολούθηση και ανάπτυξη βιολογικών όπλων.
Η Anthropic ανέφερε ότι οι εμπλεκόμενοι φορείς που εντοπίστηκαν εκτείνονται από πωλητές λογισμικού κατασκοπείας έως άτομα με πολιτικά κίνητρα και ομάδες που υποστηρίζονται από κυβερνήσεις.
Σύμφωνα με την εταιρεία, όσο βελτιώνονται οι δυνατότητες των μοντέλων τεχνητής νοημοσύνης, τόσο μειώνεται η τεχνική εξειδίκευση που απαιτείται για την εκτέλεση σύνθετων κυβερνοεπιθέσεων. Ακόμη και μεμονωμένα άτομα μπορούν πλέον να δημιουργούν απειλές κλίμακας που δεν ήταν σε θέση να επιτύχουν πριν από έναν χρόνο.
Η Anthropic υπογραμμίζει ότι τα περιστατικά της έκθεσης δεν αποτελούν συνηθισμένα παραδείγματα κακόβουλης χρήσης, αλλά αντικατοπτρίζουν τις πιο αξιοσημείωτες και νέες απειλές που έχει εντοπίσει έως σήμερα. Στην έκθεση παρουσιάζονται επίσης παραδείγματα κακόβουλου λογισμικού και εντολών που δόθηκαν στα μοντέλα.
Η εταιρεία απηύθυνε έκκληση προς κυβερνήσεις και άλλους φορείς ανάπτυξης τεχνητής νοημοσύνης να εντοπίζουν και να αποτρέπουν παρόμοιες μορφές κατάχρησης.
Αίτημα για έρευνα που θα μπορούσε να καταστήσει τον ιό πιο επικίνδυνο
Σε ένα από τα παραδείγματα βιολογικού κινδύνου της έκθεσης αναφέρεται ότι ζητήθηκε από το Claude να βοηθήσει στην προετοιμασία μιας αίτησης για χρηματοδότηση επιστημονικής έρευνας. Η Anthropic δήλωσε ότι τα συστήματά της μπλόκαραν αυτό το αίτημα.
Σύμφωνα με την εταιρεία, η αίτηση αφορούσε έρευνα για την αύξηση της μεταδοτικότητας και της ικανότητας διαφυγής από το ανοσοποιητικό σύστημα του ιού chikungunya.
Ο ιός chikungunya, που μεταδίδεται μέσω κουνουπιών, προκαλεί συμπτώματα όπως έντονο πόνο και πυρετό. Η εν λόγω μελέτη εντασσόταν στις έρευνες «ενίσχυσης λειτουργίας», οι οποίες επιδιώκουν να προσδώσουν σε έναν οργανισμό νέα ή ισχυρότερα βιολογικά χαρακτηριστικά μέσω αλλαγής των γενετικών του ιδιοτήτων.
Η Anthropic σημείωσε ότι αυτού του τύπου οι έρευνες μπορούν να συμβάλουν στην ανάπτυξη καλύτερων εμβολίων και θεραπειών, αλλά μπορούν επίσης να χρησιμοποιηθούν για να καταστήσουν τον παράγοντα της ασθένειας πιο επικίνδυνο.
Πιο αυστηρά μέτρα ασφαλείας για τα νέα μοντέλα
Η Anthropic υποστήριξε ότι τα παλαιότερα μοντέλα της, όπως τα Claude Opus 4 και Claude Sonnet 4.5 που διατέθηκαν το 2025, βρίσκονταν πολύ κάτω από το επίπεδο δυνατοτήτων που θα μπορούσε να προσφέρει ουσιαστική υποστήριξη σε έναν ειδικό χρήστη για επικίνδυνες βιολογικές έρευνες.
Γι’ αυτό, όπως αναφέρεται, τα μέτρα προστασίας στα παλαιότερα μοντέλα επικεντρώνονταν κυρίως στο να εμποδίζουν την πρόσβαση σε περιεχόμενο που θα μπορούσε να βοηθήσει άπειρους χρήστες να αναπαράγουν γνωστά βιολογικά όπλα.
Η εταιρεία ανέφερε ότι δεν μπορεί να δώσει την ίδια διαβεβαίωση για τα νεότερα μοντέλα, τα οποία μπορούν να υποστηρίξουν σύνθετη επιστημονική έρευνα. Στα πιο πρόσφατα μοντέλα, όπως το Claude Fable 5, εφαρμόζονται αυστηρότεροι περιορισμοί σε μια ευρεία ομάδα βιολογικών ερευνών που μπορούν να χρησιμοποιηθούν τόσο για ωφέλιμους όσο και για επιβλαβείς σκοπούς.
Στην έκθεση σημειώνεται ότι, με εξαίρεση ένα μόνο περιστατικό που αποσκοπούσε σε παράνομη μεταφορά των δυνατοτήτων ενός μοντέλου σε ένα άλλο, στα περιστατικά κακόβουλης χρήσης που εξετάστηκαν δεν χρησιμοποιήθηκαν μοντέλα της κλάσης Claude Fable ή Mythos.
Δημοσίευση μετά την παραίτηση ερευνητή
Η έκθεση της Anthropic, η οποία σχεδιάζει την εισαγωγή της στο χρηματιστήριο το φθινόπωρο, δημοσιεύθηκε δύο ημέρες αφότου ο ερευνητής Jacob Coxon ανακοίνωσε ότι θα παραιτηθεί επικαλούμενος ανησυχίες για την ασφάλεια.
Ο Coxon είχε υποστηρίξει ότι η Anthropic και η ανταγωνίστριά της OpenAI «τρέχουν σε μια κούρσα προς μια αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τη ζωή μας». Είχε επίσης αναφέρει ότι ορισμένοι συνάδελφοί του πλέον πιστεύουν πως η τεχνητή νοημοσύνη θα μπορούσε μέχρι το τέλος της δεκαετίας να απειλεί την ανθρώπινη ζωή.
Καθώς τα μοντέλα τεχνητής νοημοσύνης ισχυροποιούνται, οι ειδικοί τονίζουν ότι η εποπτεία δεν πρέπει να αφεθεί αποκλειστικά στις ίδιες τις εταιρείες και ότι οι κυβερνήσεις οφείλουν να θεσπίσουν ρυθμίσεις.
Ο John Thickstun, μέλος ΔΕΠ του Τμήματος Επιστήμης Υπολογιστών του Πανεπιστημίου Cornell, δήλωσε ότι η προσδοκία από εταιρείες όπως η Anthropic και η OpenAI να διαχωρίζουν τις ασφαλείς από τις επικίνδυνες συμπεριφορές τις φέρνει σε μια προβληματική θέση. Όπως είπε, οι εταιρείες καλούνται να λάβουν αξιακές αποφάσεις που αφορούν το σύνολο της κοινωνίας χωρίς δημοκρατικό έλεγχο ή δημόσια διαβούλευση.
Η Anthropic, από την πλευρά της, ανέφερε ότι έχει μπλοκάρει τις δραστηριότητες κακόβουλης χρήσης που εντόπισε, έχει ενισχύσει τα μέτρα ασφαλείας με βάση τις πληροφορίες από αυτά τα περιστατικά και έχει διαβιβάσει στοιχεία στις αρχές και στους εταίρους του κλάδου.