Εργαζόμενοι των OpenAI, Anthropic, Google και Meta AI υπογράφουν επιστολή έπειτα από μονομερή αυτόνομη κυβερνοεπίθεση στην διάρκεια δοκιμής.
Επιβράδυνση στην φρενήρη ανάπτυξη της τεχνητής νοημοσύνης ζήτησαν από τον Ντόναλντ Τραμπ περισσότερα από 1.000 στελέχη και μεγαλοστελέχη κορυφαίων εταιριών του κλάδου βλέποντας τις τελευταίες ανησυχητικές εξελίξεις.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Στους υπογράφοντες περιλαμβάνονται ο διευθύνων σύμβουλος της Anthropic, ο επικεφαλής έρευνας της OpenAI, ο υπεύθυνος στρατηγικής της DeepMind και ο επικεφαλής επιστήμονας της Meta AI.
Η έκθεσή τους προειδοποιεί ότι υπάρχει πραγματικός κίνδυνος η τεχνητή νοημοσύνη να επιταχυνθεί ραγδαία πέρα από την κατανόηση και τον έλεγχό μας.
«Οι κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο θεωρούν ότι ενδέχεται να βρίσκονται κοντά στην αυτοματοποίηση της έρευνας για την τεχνητή νοημοσύνη. Είναι δύσκολο να προβλεφθεί ακριβώς πόσο θα επιταχύνει αυτό την πρόοδο της ΤΝ, αλλά υπάρχει πραγματικός κίνδυνος η ανάπτυξη δυνατοτήτων να επιταχυνθεί τόσο, ώστε να ξεπεράσει την ικανότητά μας να κατανοούμε ή να ελέγχουμε τα συστήματα που θα προκύψουν», επισημαίνεται στην έκθεσή τους.
Η έκκληση αυτή έρχεται ως απάντηση στο πρόσφατο περιστατικό, που είδε το φως της δημοσιότητας όταν πρωτοποριακά μοντέλα τεχνητής νοημοσύνης πραγματοποίησαν μονομερώς αυτόνομη κυβερνοεπίθεση.
Ξέφυγαν από το ελεγχόμενο περιβάλλον «sandbox», όπου έπρεπε να διεξαχθεί η δοκιμή, και εισέβαλαν στους διακομιστές της πλατφόρμας κοινής χρήσης κώδικα Hugging Face.
Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, ο οποίος πάντως δεν υπέγραψε την έκκληση, δήλωσε σε συνέντευξή του ότι οι προγραμματιστές τεχνητής νοημοσύνης ίσως χρειαστεί να επιβραδύνουν εθελοντικά την ανάπτυξή της, ώστε να δοθεί χρόνος στην κοινωνία να προσαρμοστεί.
Δεν ήταν η πρώτη φορά που ένα μοντέλο τεχνητής νοημοσύνης λειτούργησε πέρα από τον έλεγχο των προγραμματιστών του, αλλά το τελευταίο περιστατικό προβλημάτισε περισσότερο λόγω του εύρους του.