Δημόσια πρόσωπα λένε ότι η κούρσα της τεχνητής νοημοσύνης προς την υπερνοημοσύνη προκαλεί ανησυχίες: από οικονομική απαξίωση, απώλεια ελευθερίας, έως και εξαφάνιση του ανθρώπινου είδους.
Περισσότερες από 850 δημόσιες προσωπικότητες, ανάμεσά τους ηγέτες της τεχνητής νοημοσύνης (AI) και της τεχνολογίας, έχουν ζητήσει επιβράδυνση της κούρσας για τη δημιουργία μιας μορφής AI που υπερβαίνει την ανθρώπινη νοημοσύνη, γνωστής ως «υπερνοημοσύνη».
Διακεκριμένοι επιστήμονες της πληροφορικής, όπως ο βραβευμένος με Νόμπελ Τζέφρι Χίντον και ο Γιοσούα Μπεντζιό – που θεωρούνται ευρέως οι «πνευματικοί πατέρες» της AI – υπέγραψαν την επιστολή, όπως και ο συνιδρυτής της Apple, Στιβ Γουόζνιακ, και ο ιδρυτής του Virgin Group, Ρίτσαρντ Μπράνσον.
Η υπερνοημοσύνη ορίζεται γενικά ως AI που υπερβαίνει τις ανθρώπινες γνωσιακές δυνατότητες, κάτι που, σύμφωνα με ορισμένους ειδικούς της τεχνολογίας, ενδέχεται να οδηγήσει τους ανθρώπους να χάσουν τον έλεγχο αυτών των συστημάτων. Η ανάληψη του ελέγχου από τις μηχανές είναι το επικρατέστερο ενδεχόμενο, σύμφωνα με πρόβλεψη από τη δεκαετία του 1950 του θρυλικού επιστήμονα πληροφορικής Άλαν Τούρινγκ.
Ηγέτες ανά τον κόσμο λένε ότι το να κερδηθεί η κούρσα της AI είναι κρίσιμο για την εθνική ασφάλεια και για την πρόοδο στην υγεία, τις επιχειρήσεις και την τεχνολογία.
Την ίδια ώρα, εταιρείες τεχνολογίας όπως η Meta χρησιμοποιούν την υπερνοημοσύνη ως πιασάρικο όρο για να προβάλουν τα πιο πρόσφατα μοντέλα AI τους. Φέτος, η Meta ονόμασε το τμήμα των μεγάλων γλωσσικών μοντέλων (LLM) της Meta Superintelligence Labs.
Η επιστολή αναφέρει ότι η κούρσα της AI προς την υπερνοημοσύνη «έχει εγείρει ανησυχίες που εκτείνονται από την οικονομική απαξίωση και την αποδυνάμωση των ανθρώπων, απώλειες ελευθερίας, πολιτικών δικαιωμάτων, αξιοπρέπειας και ελέγχου, έως κινδύνους για την εθνική ασφάλεια και ακόμη και ενδεχόμενη εξαφάνιση του ανθρώπινου είδους».
Ζητεί «απαγόρευση της ανάπτυξης υπερνοημοσύνης, που δεν θα αρθεί πριν υπάρξει ευρεία επιστημονική συναίνεση ότι θα γίνει με ασφάλεια και υπό έλεγχο, καθώς και ισχυρή αποδοχή από το κοινό».
Ηγέτες της AI, όπως ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, έχουν δηλώσει στο παρελθόν ότι η ανάπτυξη υπεράνθρωπης μηχανικής νοημοσύνης (SMI) «είναι πιθανότατα η μεγαλύτερη απειλή για τη συνέχιση της ανθρώπινης ύπαρξης».
Την ίδια στιγμή, ο διευθύνων σύμβουλος της Microsoft, Μουσταφά Σουλεϊμάν, είπε: «μέχρι να μπορέσουμε να αποδείξουμε πέρα από κάθε αμφιβολία ότι είναι [ασφαλής], δεν θα έπρεπε να την εφευρίσκουμε.»
Ωστόσο, ο Άλτμαν και ο Σουλεϊμάν δεν συγκαταλέγονταν στους υπογράφοντες.
Ο Άλτμαν έχει επίσης προωθήσει την τεχνητή γενική νοημοσύνη (AGI), που ορίζεται αόριστα ως ένας τύπος AI που εξισώνεται με ή υπερβαίνει τις ανθρώπινες γνωσιακές ικανότητες, η οποία θεωρείται το στάδιο πριν από την υπερνοημοσύνη.
Ωστόσο, για τον Άλτμαν, η AGI ορίζεται ως μια υποθετική μορφή μηχανικής νοημοσύνης που μπορεί να λύσει κάθε ανθρώπινο έργο με μεθόδους που δεν περιορίζονται στην εκπαίδευσή της. Ο Άλτμαν έχει πει ότι μπορεί να «ανυψώσει την ανθρωπότητα» και δεν παραπέμπει σε μηχανές που αναλαμβάνουν τον έλεγχο.
Πέρα από τα πρόσωπα της τεχνολογίας, στους υπογράφοντες της δήλωσης περιλαμβάνονται ακαδημαϊκοί, προσωπικότητες των ΜΜΕ όπως ο Στίβεν Φράι και ο Στιβ Μπάνον, θρησκευτικοί ηγέτες και πρώην πολιτικοί.