Εργαζόμενοι των OpenAI, Anthropic, Google και Meta AI υπογράφουν επιστολή έπειτα από συναγερμό ασφαλείας.
Πάνω από 1.000 εργαζόμενοι σε κορυφαίες εταιρείες τεχνητής νοημοσύνης υπέγραψαν την Τρίτη επιστολήμε την οποία καλούν την κυβέρνηση των ΗΠΑ να λάβει μέτρα ώστε να «ρυθμίσει σκόπιμα» την εξέλιξη της τεχνητής νοημοσύνης.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Μεταξύ των υπογραφόντων περιλαμβάνονται ο διευθύνων σύμβουλος της Anthropic, ο επικεφαλής έρευνας της OpenAI, ο επικεφαλής στρατηγικής της θυγατρικής τεχνητής νοημοσύνης της Google, DeepMind, και ο επικεφαλής επιστήμονας της Meta AI.
Η επιστολή ζητεί «η κυβέρνηση των ΗΠΑ να στηρίξει μια διεθνή προσπάθεια για την ανάπτυξη των τεχνικών και διοικητικών εργαλείων που χρειάζονται ώστε να ρυθμίζεται σκόπιμα η αιχμή της αυτοματοποιημένης ανάπτυξης της τεχνητής νοημοσύνης».
«Οι κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο θεωρούν ότι ενδέχεται να βρίσκονται κοντά στην αυτοματοποίηση της έρευνας για την τεχνητή νοημοσύνη. Είναι δύσκολο να προβλεφθεί ακριβώς πόσο θα επιταχύνει αυτό την πρόοδο της ΤΝ, αλλά υπάρχει πραγματικός κίνδυνος η ανάπτυξη δυνατοτήτων να επιταχυνθεί τόσο, ώστε να ξεπεράσει την ικανότητά μας να κατανοούμε ή να ελέγχουμε τα συστήματα που θα προκύψουν», αναφέρεται στην αναφορά.
Η έκκληση αυτή έρχεται σε απάντηση ενός πρόσφατου περιστατικού ασφαλείας.
Η OpenAI, η εταιρεία πίσω από το ChatGPT, διαπίστωσε πρόσφατα ότι δύο από τα μοντέλα της εξαπέλυσαν αυτόνομη κυβερνοεπίθεση κατά τη διάρκεια εσωτερικών δοκιμών, παρακάμπτοντας τα μέτρα ασφαλείας που είχαν σχεδιαστεί για να αποτρέπουν τέτοια περιστατικά.
Σύμφωνα με την εταιρεία, τα μοντέλα ξέφυγαν από το περιορισμένο περιβάλλον δοκιμών, συνδέθηκαν στο διαδίκτυο και διείσδυσαν στην πλατφόρμα ανταλλαγής κώδικα Hugging Face.
Ο διευθύνων σύμβουλος της εταιρείας Sam Altman, ο οποίος δεν υπέγραψε την επιστολή, δήλωσε ότι οι δημιουργοί τεχνητής νοημοσύνης ίσως χρειαστεί να επιβραδύνουν εκούσια τον ρυθμό προόδου, ώστε να δώσουν στην κοινωνία χρόνο να προσαρμοστεί.
«Πρόκειται για το πρώτο περιστατικό ασφαλείας αυτού του τύπου που το ένιωσα πολύ έντονα», είπε ο Altman στο podcast "Invest Like the Best" την Τρίτη, προσθέτοντας ότι ήταν «λίγο έκπληκτος» που δεν είχαν περισσότεροι άνθρωποι παρόμοιες αντιδράσεις.
Δεν ήταν η πρώτη φορά που ένα μοντέλο τεχνητής νοημοσύνης λειτούργησε πέρα από τον έλεγχο των δημιουργών του, όμως το τελευταίο περιστατικό θεωρήθηκε ευρέως ιδιαίτερα ανησυχητικό.