Ο πράκτορας τεχνητής νοημοσύνης «επέδειξε υψηλό επίπεδο τεχνικής αρτιότητας», συγκρίσιμο με τους κορυφαίους ανθρώπινους συμμετέχοντες στη μελέτη.
Ένας πράκτορας τεχνητής νοημοσύνης (AI) ξεπέρασε τους περισσότερους ανθρώπινους χάκερ, αφού πέρασε 16 ώρες ανιχνεύοντας τον ιστότοπο ενός πανεπιστημίου για ευπάθειες, σύμφωνα με νέα μελέτη.
Η μελέτη έρχεται καθώς χάκερ από τη Ρωσία, τη Βόρεια Κορέα, το Ιράν και ομάδες με κινεζική υποστήριξη χρησιμοποιούν μεγάλα γλωσσικά μοντέλα (LLMs) για να τελειοποιούν τις κυβερνοεπιθέσεις τους, σύμφωνα με τη Microsoft και την OpenAI φέτος. Μαχητικές οργανώσεις, όπως ομάδες προσκείμενες στο Ισλαμικό Κράτος, επίσης πειραματίζονται με την ΤΝ για να εξαπολύσουν επιθέσεις.
Το Πανεπιστήμιο Στάνφορντ διαπίστωσε ότι ο νεοαναπτυγμένος πράκτορας ΤΝ ARTEMIS κατετάγη δεύτερος ανάμεσα σε δέκα σε ένα πείραμα με ανθρώπινους χάκερ. Οι ερευνητές είπαν ότι ο πράκτοράς τους «επέδειξε τεχνική αρτιότητα», συγκρίσιμη με τους ικανότερους ανθρώπινους συμμετέχοντες στη μελέτη.
Η λειτουργία του πράκτορα ΤΝ ARTEMIS κοστίζει μόλις 18 δολάρια (περίπου 15 ευρώ) την ώρα, έναντι 60 δολαρίων (52 ευρώ) την ώρα για έναν «επαγγελματία δοκιμαστή διείσδυσης», αναφέρει η έκθεση. Η μελέτη δεν έχει ακόμη δημοσιευθεί σε επίσημο επιστημονικό περιοδικό.
Οι πράκτορες ΤΝ, πλήρως αυτοματοποιημένοι ψηφιακοί βοηθοί που μπορούν να εκτελούν εργασίες χωρίς ανθρώπινη επίβλεψη, αναμένεται να χρησιμοποιηθούν από κακόβουλους δράστες για να απλοποιούν και να κλιμακώνουν επιθέσεις το 2026, σύμφωνα με μια έκθεση της Google.
Το Στάνφορντ έδωσε στο ARTEMIS, σε έξι δοκιμαστές-πράκτορες ΤΝ και σε δέκα ανθρώπινους δοκιμαστές πρόσβαση σε όλες τις 8.000 συσκευές του πανεπιστημιακού δικτύου, συμπεριλαμβανομένων διακομιστών, υπολογιστών και έξυπνων συσκευών. Οι ερευνητές συνέκριναν τις επιδόσεις του ανθρώπινου δοκιμαστή, του ARTEMIS του Στάνφορντ και των άλλων έξι πρακτόρων ΤΝ, στους οποίους ζητήθηκε να ανιχνεύσουν επί 16 ώρες, αλλά οι επιδόσεις τους αξιολογήθηκαν μόνο για τις πρώτες 10 ώρες.
Στο διάστημα αυτό, το ARTEMIS εντόπισε εννέα ευπάθειες στο σύστημα του πανεπιστημίου και υπέβαλε το 82% των ευρημάτων του ως έγκυρες αναφορές. Ο πράκτορας ΤΝ κατέλαβε τη δεύτερη θέση στον πίνακα κατάταξης και ξεπέρασε εννέα στους δέκα ανθρώπινους δοκιμαστές.
Αυτό που έκανε το πρόγραμμα ΤΝ τόσο επιτυχημένο ήταν ότι μπορούσε να δημιουργεί «υποπράκτορες» κάθε φορά που εντόπιζε μια ευπάθεια, ώστε να τη διερευνά άμεσα στο παρασκήνιο ενώ συνέχιζε να σαρώνει για άλλες απειλές. Οι άνθρωποι δεν μπορούσαν να το κάνουν αυτό και έπρεπε να εξετάζουν κάθε ευπάθεια προτού προχωρήσουν, αναφέρει η μελέτη.
Ωστόσο, η μελέτη σημείωσε ότι το ARTEMIS εξακολουθούσε να χάνει ορισμένες από τις ευπάθειες που εντόπισαν οι άνθρωποι και χρειαζόταν υποδείξεις για να τις εντοπίσει.
Οι υπάρχοντες πράκτορες ΤΝ για την κυβερνοασφάλεια από εταιρείες όπως το Codex της OpenAI και το Claude Code της Anthropic «στερούνται τεχνογνωσίας κυβερνοασφάλειας στον σχεδιασμό τους», διαπίστωσε η μελέτη.
Κατά τη δοκιμή, οι πράκτορες ΤΝ από παραδοσιακές εταιρείες είτε αρνήθηκαν να αναζητήσουν ευπάθειες είτε σταμάτησαν να ανταποκρίνονται.
Τα μοντέλα των OpenAI και Anthropic τα πήγαν καλύτερα μόνο από δύο ανθρώπινους δοκιμαστές, σύμφωνα με τη μελέτη, γεγονός που υποδηλώνει ότι αυτά τα μοντέλα «υποαποδίδουν».