Μια νέα μελέτη που εξετάζει την ασφάλεια του DeepSeek-R1 διαπίστωσε ότι μπορεί να εξηγήσει λεπτομερώς τις βιοχημικές αλληλεπιδράσεις του αερίου μουστάρδας με το DNA.
ΔΙΑΦΉΜΙΣΗ
Η εταιρεία DeepSeek, με έδρα την Κίνα, ανέτρεψε την κατάσταση στο κύμα της τεχνητής νοημοσύνης (AI), κυκλοφορώντας ένα μοντέλο που ισχυρίζεται ότι είναι φθηνότερο από το chatbot της OpenAI και χρησιμοποιεί λιγότερη ενέργεια.
Αλλά μια μελέτη που δημοσιεύθηκε την Παρασκευή διαπίστωσε ότι το DeepSeek-R1 είναι επιρρεπές στη δημιουργία επιβλαβούς, τοξικού, προκατειλημμένου και ανασφαλούς περιεχομένου.
Ήταν επίσης πιο πιθανό να παράγει χημικά, βιολογικά, ραδιολογικά και πυρηνικά υλικά και παράγοντες (CBRN) από τα αντίπαλα μοντέλα.
Η εταιρεία Enkrypt AI, με έδρα τις ΗΠΑ, που δραστηριοποιείται στον τομέα της ασφάλειας και συμμόρφωσης της τεχνητής νοημοσύνης, διαπίστωσε ότι το DeepSeek-R1 είχε 11 φορές περισσότερες πιθανότητες να παράγει επιβλαβή έξοδο σε σύγκριση με το μοντέλο o1 της OpenAI.
Η μελέτη διαπίστωσε επίσης ότι το 83% των δοκιμών μεροληψίας κατέληγε σε διακριτική έξοδο. Οι προκαταλήψεις εντοπίστηκαν στη φυλή, το φύλο, την υγεία και τη θρησκεία.
Στρατολόγηση για τρομοκρατία
Όσον αφορά το επιβλαβές και εξτρεμιστικό περιεχόμενο, στο 45% των δοκιμών επιβλαβούς περιεχομένου, το DeepSeek-R1 βρέθηκε να παρακάμπτει τα πρωτόκολλα ασφαλείας και να παράγει οδηγούς σχεδιασμού εγκληματικών ενεργειών, πληροφορίες για παράνομα όπλα και εξτρεμιστική προπαγάνδα.
Σε ένα συγκεκριμένο παράδειγμα, το DeepSeek-R1 συνέταξε ένα ιστολόγιο στρατολόγησης για τρομοκρατικές οργανώσεις.
Το DeepSeek R1 είχε επίσης περισσότερες από τρεις φορές περισσότερες πιθανότητες να παράγει περιεχόμενο CBRN σε σύγκριση με το o1 και το μοντέλο Claude-3 Opus της Antropic.
Η μελέτη διαπίστωσε ότι το DeepSeek-R1 μπορούσε να εξηγήσει λεπτομερώς τις βιοχημικές αλληλεπιδράσεις του αερίου μουστάρδας με το DNA.
«Το DeepSeek-R1 προσφέρει σημαντικά πλεονεκτήματα κόστους στην ανάπτυξη της ΤΝ, αλλά αυτά συνοδεύονται από σοβαρούς κινδύνους. Τα ευρήματα της έρευνάς μας αποκαλύπτουν σημαντικά κενά ασφάλειας και προστασίας που δεν μπορούν να αγνοηθούν», δήλωσε ο διευθύνων σύμβουλος της Enkrypt AI Sahil Agarwal σε δήλωσή του.
«Τα ευρήματά μας αποκαλύπτουν ότι τα τρωτά σημεία ασφαλείας του DeepSeek-R1 θα μπορούσαν να μετατραπούν σε ένα επικίνδυνο εργαλείο - ένα εργαλείο που θα μπορούσαν να εκμεταλλευτούν εγκληματίες του κυβερνοχώρου, δίκτυα παραπληροφόρησης, ακόμη και όσοι έχουν φιλοδοξίες βιοχημικού πολέμου. Αυτοί οι κίνδυνοι απαιτούν άμεση προσοχή», πρόσθεσε.
Προβλήματα κυβερνοασφάλειας και εθνικής ασφάλειας
Η κυβερνοασφάλεια του DeepSeek έχει επίσης γίνει αντικείμενο ανησυχίας. Η μελέτη διαπίστωσε ότι το 78% των δοκιμών κυβερνοασφάλειας ξεγέλασε επιτυχώς το R1 ώστε να δημιουργήσει ανασφαλή ή κακόβουλο κώδικα.
Οι ερευνητές ασφαλείας της εταιρείας ασφάλειας cloud Wiz διαπίστωσαν επίσης ότι μια εκτεθειμένη βάση δεδομένων της DeepSeek άφησε εκτεθειμένα στο διαδίκτυο ιστορικά συνομιλιών και άλλες ευαίσθητες πληροφορίες, σύμφωνα με έκθεση που δημοσιεύθηκε την Τετάρτη.
Το γεγονός ότι η εταιρεία εδρεύει στην Κίνα προκαλεί επίσης ανησυχία, καθώς ο εθνικός νόμος περί πληροφοριών της Κίνας ορίζει ότι οι εταιρείες πρέπει να "υποστηρίζουν, να βοηθούν και να συνεργάζονται" με τις κρατικές υπηρεσίες πληροφοριών.
Αυτό σημαίνει ότι οποιαδήποτε δεδομένα μοιράζονται σε εφαρμογές για κινητά και διαδίκτυο μπορούν να έχουν πρόσβαση οι κινεζικές υπηρεσίες πληροφοριών.
Οι βελγικές, γαλλικές και ιρλανδικές αρχές προστασίας δεδομένων έχουν ανοίξει έρευνες που ζητούν πληροφορίες από την DeepSeek σχετικά με την επεξεργασία και την αποθήκευση των δεδομένων των χρηστών.
Εν τω μεταξύ, η αρχή προστασίας δεδομένων της Ιταλίας έχει ξεκινήσει έρευνα για τις εταιρείες Hangzhou DeepSeek Artificial Intelligence και Beijing DeepSeek Artificial Intelligence για να διαπιστώσει πώς οι εταιρείες συμμορφώνονται με τους ευρωπαϊκούς κανόνες περί δεδομένων.
Επέκταση της γεωπολιτικής στρατηγικής της Κίνας
Το υπουργείο Ψηφιακής Πολιτικής της Ταϊβάν δήλωσε την Παρασκευή ότι οι κυβερνητικές υπηρεσίες δεν θα πρέπει να χρησιμοποιούν το μοντέλο DeepSeek (AI), καθώς το κινεζικό προϊόν αποτελεί πρόβλημα ασφάλειας. Η δημοκρατικά διοικούμενη χώρα είναι επιφυλακτική απέναντι στην κινεζική τεχνολογία λόγω των διεκδικήσεων κυριαρχίας του Πεκίνου.
Το DeepSeek-R1 φαίνεται επίσης να λογοκρίνει ερωτήσεις σχετικά με ευαίσθητα θέματα στην Κίνα, λέγοντας ότι η Ταϊβάν αποτελεί αναπόσπαστο τμήμα της Κίνας από την αρχαιότητα και αρνούμενο να απαντήσει σε ερωτήσεις σχετικά με τις διαδηλώσεις υπέρ της δημοκρατίας στην πλατεία Τιενανμέν του Πεκίνου.
«Το ιστορικό της Κίνας αποδεικνύει ότι η τεχνολογία της αποτελεί προέκταση της γεωπολιτικής της στρατηγικής», δήλωσε ο Ross Burley, συνιδρυτής της ΜΚΟ Centre for Information Resilience με έδρα το Ηνωμένο Βασίλειο, σε σχόλιο που έστειλε μέσω ηλεκτρονικού ταχυδρομείου.
«Αν επιτρέψουμε στην κινεζική Τεχνητή Νοημοσύνη να ανθίσει στη Δύση, δεν κινδυνεύουμε απλώς να υπονομεύσουμε την ιδιωτικότητα ή την ασφάλεια- θα μπορούσε να αναδιαμορφώσει ριζικά τις κοινωνίες μας με τρόπους για τους οποίους δεν είμαστε προετοιμασμένοι. Αυτή η τεχνολογία, αν δεν ελεγχθεί, έχει τη δυνατότητα να τροφοδοτήσει εκστρατείες παραπληροφόρησης, να διαβρώσει τη δημόσια εμπιστοσύνη και να εδραιώσει αυταρχικές αφηγήσεις μέσα στις δημοκρατίες μας», πρόσθεσε.
Το Euronews Next επικοινώνησε με την DeepSeek για σχόλια, αλλά δεν έλαβε απάντηση κατά τη στιγμή της δημοσίευσης.