Κορυφαίοι προγραμματιστές προειδοποιούν ότι η ανάπτυξη τεχνητής νοημοσύνης πρέπει να επιβραδυνθεί, καθώς αυξάνονται οι πιέσεις να προηγείται η ασφάλεια των κερδών, πιέζοντας τη Δευτέρα τις τεχνολογικές μετοχές.
Οι μετοχές του ιαπωνικού επενδυτικού ομίλου SoftBank Group, μεγάλου επενδυτή στην OpenAI, κατρακύλησαν πάνω από 10% τη Δευτέρα, μαζί με άλλες τεχνολογικές μετοχές, αφού στελέχη ορισμένων από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο στήριξαν εκκλήσεις να δοθεί προτεραιότητα στην «προσοχή έναντι της ταχύτητας και στη σύνεση έναντι του κέρδους».
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Η φράση χρησιμοποιήθηκε από τον διευθύνοντα σύμβουλο της Anthropic, Ντάριο Αμοντέι, ο οποίος το Σάββατο κάλεσε τις εταιρείες τεχνητής νοημοσύνης να «επιβραδύνουν την κούρσα στην τεχνολογική αιχμή» μέσω ενός συντονισμένου φρεναρίσματος στην ανάπτυξη των πιο προηγμένων μοντέλων τους, ώστε να υπάρξει περισσότερος χρόνος για την κατανόηση και τη διαχείριση των κινδύνων.
Μεταξύ των βασικών του ανησυχιών είναι η λεγόμενη «αναδρομική αυτοβελτίωση», κατά την οποία τα συστήματα τεχνητής νοημοσύνης συμβάλλουν στην ανάπτυξη της επόμενης γενιάς μοντέλων.
«Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και, επομένως, πρέπει να επιδιωχθεί με εξαιρετική προσοχή, αν επιδιωχθεί καθόλου», έγραψε ο Αμοντέι.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, και ο επικεφαλής της xAI, Έλον Μασκ, στήριξαν δημόσια την προειδοποίησή του, με τον Μασκ να δηλώνει: «Ο Ντάριο έχει δίκιο».
Ο Άλτμαν είπε επίσης στο περιοδικό Fortune, σε συνέντευξη που δημοσιεύτηκε το Σάββατο, ότι η OpenAI δεν θα προχωρήσει σε αρχική δημόσια προσφορά μετοχών (IPO) φέτος, καθώς η εταιρεία εστιάζει στην ασφάλεια.
Η OpenAI και η Anthropic ανήκουν και οι δύο σε ιδιωτικά χέρια. Σύμφωνα με πληροφορίες, η Anthropic προετοιμάζεται για πιθανή εισαγωγή στο χρηματιστήριο τους επόμενους μήνες.
Τα σχόλια έγιναν μετά την παραίτηση του ερευνητή της Anthropic, Τζέικομπ Κόξον, ο οποίος προειδοποίησε ότι η τεχνολογία θα μπορούσε να ξεφύγει από τον ανθρώπινο έλεγχο.
Ο Έβαν Χιούμπινγκερ, ένας ακόμη ερευνητής της Anthropic που παραμένει στην εταιρεία, έγραψε στη συνέχεια: «Πιστεύουμε πράγματι, με κάθε ειλικρίνεια, ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους!» Δήλωσε ότι θεωρεί πως η πιθανότητα είναι μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία.
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, απέρριψε τις προειδοποιήσεις την Κυριακή, χαρακτηρίζοντας τους επικριτές της τεχνητής νοημοσύνης «πολύ αρνητικές δυνάμεις» και λέγοντας ότι τα σενάρια που περιγράφουν δεν πρόκειται να συμβούν. Ο πρόεδρος της Βουλής, Μάικ Τζόνσον, κάλεσε επίσης τον κόσμο να μην πανικοβληθεί.
Οι επενδυτές, πάντως, πούλησαν τεχνολογικές μετοχές τη Δευτέρα.
Η πτώση της SoftBank «πιθανότατα αντανακλά το ενδεχόμενο η ανάπτυξη της τεχνητής νοημοσύνης να επιβραδυνθεί από τους ρυθμιστές, σε μια προσπάθεια να αποφευχθούν τα χειρότερα σενάρια που έχουν περιγράψει η Anthropic και η OpenAI», δήλωσε ο Νταν Μπέικερ, της επενδυτικής ερευνητικής εταιρείας Morningstar.
«Και ίσως επίσης αντικατοπτρίζει το ενδεχόμενο ότι οποιαδήποτε νέα παραδείγματα απώλειας ελέγχου σε νεότερα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν επίσης να επιβραδύνουν την ανάπτυξή της», πρόσθεσε.
Και άλλες μετοχές συνδεδεμένες με την τεχνητή νοημοσύνη στην Ασία υποχώρησαν. Η νοτιοκορεατική κατασκευάστρια μνημών SK Hynix έχασε 5,3%, ενώ η Samsung Electronics υποχώρησε κατά 2,8%. Η ιαπωνική κατασκευάστρια εξοπλισμού ημιαγωγών Tokyo Electron σημείωσε πτώση 0,9%, ενώ η κατασκευάστρια μνημών Kioxia Holdings βούτηξε 6%.
Η κούρσα με την Κίνα
Ο Αμοντέι ζήτησε επίσης αυστηρότερους περιορισμούς στην πρόσβαση της Κίνας σε προηγμένα τσιπ τεχνητής νοημοσύνης και σε εξοπλισμό παραγωγής ημιαγωγών, υποστηρίζοντας ότι τα τσιπ θα καθορίσουν σε μεγάλο βαθμό τις δυνατότητες της χώρας στην τεχνητή νοημοσύνη.
Ωστόσο, αναγνώρισε στο CBS News ότι το «δυσκολότερο δίλημμα» είναι πως η Κίνα ενδέχεται να μην συμμετάσχει σε έναν συντονισμένο ρυθμό επιβράδυνσης.
Η κρατικά υποστηριζόμενη κινεζική εφημερίδα Global Times χαρακτήρισε τη θέση του «βραχυπρόθεσμη» και τον κατηγόρησε ότι προσπαθεί να περιορίσει την ανάπτυξη της Κίνας μέσω ενός «Ψυχρού Πολέμου στην τεχνητή νοημοσύνη». Την ίδια ώρα, ο πρόεδρος Σι Τζινπίνγκ έχει προτείνει μια ζώνη τεχνητής νοημοσύνης ανοικτού κώδικα των BRICS για την εμβάθυνση της συνεργασίας σε μοντέλα τεχνητής νοημοσύνης και στην εκπαίδευσή τους.