Η εταιρεία εκτιμά ότι σε λίγους μόνο μήνες τα μοντέλα τεχνητής νοημοσύνης θα μπορούν να αντιγράφονται και να εξαπλώνονται σε συσκευές IoT, όπως έξυπνοι φούρνοι και τηλεοράσεις
Η Anthropic ανακοίνωσε αυτή την εβδομάδα (πηγή στα Αγγλικά) ότι τα μικρά μοντέλα τεχνητής νοημοσύνης απέχουν μόλις λίγους μήνες από το να μπορούν να αυτοαναπαράγονται σε συσκευές του Internet of Things, όπως έξυπνοι φούρνοι και τηλεοράσεις.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Αυτό έχει σημασία, επειδή τα σημερινά μοντέλα τεχνητής νοημοσύνης λειτουργούν σε data centres, όπου οι εταιρείες που τα διαθέτουν μπορούν να τα απενεργοποιήσουν αν κάτι πάει στραβά.
Ένα μοντέλο διασκορπισμένο σε χιλιάδες κακοπροστατευμένες συσκευές σε σπίτια και γραφεία δεν θα είχε έναν τέτοιο διακόπτη. Η διακοπή του θα σήμαινε τον εντοπισμό και τον καθαρισμό κάθε μολυσμένης συσκευής, κάτι που θα το έκανε εξαιρετικά δύσκολο να σταματήσει αν στρεφόταν σε κυβερνοεπιθέσεις.
Η τελευταία ανακοίνωση έρχεται σε μια χρονιά κατά την οποία τα κορυφαία παγκοσμίως μοντέλα τεχνητής νοημοσύνης και οι agents τους έχουν επανειλημμένα παρακάμψει τα δίχτυα ασφαλείας ή τους περιορισμούς τους, εξαπολύοντας επιθέσεις σε ανταγωνιστικές εταιρείες και κυβερνητικές υπηρεσίες σε όλο τον κόσμο.
Παρότι αυτός είναι ένας τρόπος με τον οποίο μια ανεξέλεγκτη τεχνητή νοημοσύνη θα μπορούσε να εξαπλωθεί, η Anthropic προειδοποίησε ότι μια αυτοαναπαραγόμενη τεχνητή νοημοσύνη θα μπορούσε επίσης να είναι «ένα ισχυρό cyber μοντέλο που παραβιάζει data centres με υψηλή ταχύτητα ή ένα μοντέλο που εξαπατά ανθρώπους για compute credits».
Η εταιρεία λέει ότι δεν μπορεί να πει με βεβαιότητα ποια ακριβώς μορφή θα πάρει η αυτόνομη αναπαραγωγή τεχνητής νοημοσύνης.
Σύμφωνα με την Anthropic, μοντέλα με έως και 30 δισεκατομμύρια παραμέτρους μπορούν ήδη να ολοκληρώσουν πολλά από τα βήματα που απαιτούνται για να αναπαραχθούν, αν και κάνουν λάθη όταν προσπαθούν να τα ενώσουν όλα σε μια ακολουθία από την αρχή μέχρι το τέλος.
Ωστόσο, αν τα μικρά μοντέλα συνεχίσουν να βελτιώνονται με τον σημερινό ιστορικό ρυθμό, θα μπορούν να φτάσουν αυτή τη δυνατότητα μέχρι το τέλος του χρόνου.
Η Anthropic υποστηρίζει ότι η κυβερνοαπειλή που δημιουργεί η αυτοαναπαραγόμενη τεχνητή νοημοσύνη είναι μια ακούσια συνέπεια της προόδου σε άλλα πεδία.
«Οι δυνατότητες που καθιστούν τα μοντέλα τεχνητής νοημοσύνης γενικά ισχυρούς πράκτορες κώδικα γενικεύονται και σε cyber εργασίες, συμπεριλαμβανομένης της αυτόνομης αναπαραγωγής», ανέφερε η εταιρεία σε ανακοίνωσή της.
Κώδικας που αντιγράφει τον εαυτό του από έναν υπολογιστή σε έναν άλλον δεν είναι κάτι νέο. Μερικές από τις πιο καταστροφικές κυβερνοεπιθέσεις στην ιστορία βασίστηκαν σε αυτό το είδος αυτοδιαδιδόμενου προγράμματος, γνωστού ως worm.
Η επίθεση Stuxnet του 2010 χρησιμοποίησε ένα εξελιγμένο worm, που ευρέως θεωρείται ότι κατασκευάστηκε από τις ΗΠΑ και το Ισραήλ, για να σαμποτάρει φυγοκεντρητές στο εργοστάσιο εμπλουτισμού ουρανίου της Natanz στο Ιράν.
Το 2017, η επίθεση ransomware WannaCry απέκλεισε χρήστες σε όλο τον κόσμο από τα αρχεία τους και ζήτησε λύτρα σε Bitcoin.
Σε αντίθεση με αυτά τα worms, όμως, τα μοντέλα τεχνητής νοημοσύνης και οι agents θα μπορούν να καταλαβαίνουν καινούριες, άγνωστες συσκευές από μόνα τους. Αυτό θα τους επέτρεπε να εξαπλώνονται όχι μόνο από υπολογιστή σε υπολογιστή, αλλά και από υπολογιστές σε άλλες συσκευές.
Η Anthropic προβλέπει ένα μέλλον «κατάφορτο με agents που θα τρέχουν σε κάθε είδους hardware, συμπεριλαμβανομένου κάποιου που δεν θα βρίσκεται υπό ανθρώπινο έλεγχο».