Νέα έρευνα του Πανεπιστημίου του Εδιμβούργου: οι χάκερ αποτυγχάνουν να αξιοποιήσουν αποτελεσματικά τα εργαλεία τεχνητής νοημοσύνης στις απάτες τους ή στην ανάπτυξη καλύτερων εργαλείων.
Οι κυβερνοεγκληματίες αντιμετωπίζουν δυσκολίες στο να ενσωματώσουν την τεχνητή νοημοσύνη (AI) στη δουλειά τους, σύμφωνα με νέα ανάλυση.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Μια νέα προδημοσιευμένη μελέτη (πηγή στα Αγγλικά) του Πανεπιστημίου του Εδιμβούργου ανέλυσε πάνω από 100 εκατομμύρια αναρτήσεις σε φόρουμ από κυβερνοεγκληματίες, χρησιμοποιώντας τη βάση δεδομένων CrimeBB, η οποία συλλέγει δεδομένα από υπόγεια φόρουμ.
Τα δεδομένα αναλύθηκαν τόσο χειροκίνητα όσο και με τη χρήση ενός μεγάλου γλωσσικού μοντέλου (LLM).
Παρότι οι κυβερνοεγκληματίες έχουν εκφράσει ενδιαφέρον να μάθουν πώς να χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης, η τεχνολογία δεν έχει αλλάξει ουσιαστικά τον τρόπο «εργασίας» τους, σύμφωνα με τη μελέτη.
«Πολλές από τις αξιολογήσεις και τις συζητήσεις περιγράφουν τα εργαλεία [AI] ως όχι ιδιαίτερα χρήσιμα», αναφέρει η μελέτη.
Οι ερευνητές δεν βρήκαν «σημαντικές ενδείξεις» ότι οι χάκερ είχαν κάποια επιτυχία στη χρήση της τεχνητής νοημοσύνης για να βελτιώσουν τη δραστηριότητά τους, είτε ως βοήθημα μάθησης είτε για την ανάπτυξη πιο αποτελεσματικών εργαλείων.
Οι βοηθοί προγραμματισμού με τεχνητή νοημοσύνη είναι κυρίως χρήσιμοι για όσους ήδη κατέχουν καλά τον προγραμματισμό, επομένως τα μοντέλα AI που προσφέρουν βοήθεια στον κώδικα δεν τους δίνουν κάποια ουσιαστική «ώθηση» όταν προσπαθούν να παραβιάσουν συσκευές ή να βρουν παρακαμπτήριες οδούς ασφαλείας, προσθέτει η μελέτη.
«Πρέπει πρώτα να μάθεις μόνος σου τα κατατόπια του προγραμματισμού, προτού μπορέσεις να χρησιμοποιήσεις την AI και να ωφεληθείς ΠΡΑΓΜΑΤΙΚΑ από αυτή», αναφέρει μία ανάρτηση που παρατίθεται στη μελέτη.
Η βασική επίδραση που έχει μέχρι στιγμής η AI σε διαδικτυακές δραστηριότητες αμφιλεγόμενης νομιμότητας αφορά τομείς που αυτοματοποιούνται εύκολα, όπως η δημιουργία bots στα κοινωνικά δίκτυα, ορισμένες ερωτικές απάτες και η απάτη με βελτιστοποίηση για μηχανές αναζήτησης (SEO), ή η δημιουργία ψεύτικων ιστοσελίδων που ανεβαίνουν ψηλά στα αποτελέσματα αναζήτησης για να αποφέρουν έσοδα από διαφημίσεις.
Οι αξιολογήσεις δείχνουν ότι ακόμη και οι πιο έμπειροι χάκερ χρησιμοποιούν chatbots για να απαντούν σε ερωτήσεις προγραμματισμού ή για να δημιουργούν «σκονάκια» που τους βοηθούν να γράφουν κώδικα.
Η AI που στην πράξη χρησιμοποιείται εμπίπτει στην κατηγορία των «κυρίαρχων και νόμιμων προϊόντων», όπως το Claude της Anthropic ή το Codex της OpenAI, και όχι σε εξειδικευμένα μοντέλα AI για το κυβερνοέγκλημα όπως το WormGPT, που έχουν σχεδιαστεί από χάκερ για την παραγωγή κακόβουλου κώδικα ή phishing emails.
Πολλές από τις αναρτήσεις που αναλύθηκαν στη μελέτη αφορούν κυβερνοεγκληματίες που ζητούν τεχνικές για να παρακάμψουν τους κανόνες ασφαλείας αυτών των κυρίαρχων μοντέλων, όμως φαίνεται να δυσκολεύονται να κάνουν τα συστήματα AI να παραβούν τις ρυθμίσεις ασφαλείας τους.
Έτσι, οι κυβερνοεγκληματίες αναγκάζονται να στραφούν σε παλαιότερα, χαμηλότερης ποιότητας μοντέλα AI ανοικτού κώδικα, τα οποία είναι πιο εύκολο να παραβιαστούν. Αυτά ωστόσο τείνουν να είναι λιγότερο χρήσιμα και «απαιτούν σημαντικούς πόρους», διαπίστωσαν οι ερευνητές.
Η μελέτη τους υποδηλώνει ότι οι δικλίδες ασφαλείας που έχουν θέσει οι εταιρείες AI φαίνεται να λειτουργούν, τουλάχιστον μέχρι στιγμής.