Ο επικεφαλής τεχνητής νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν, επέκρινε την Anthropic για την αντιμετώπιση της AI ως ηθικού ανθρώπου, προειδοποιώντας σε προσωπικό άρθρο ότι έτσι μπορεί να κατασκευαστεί τεχνολογία που δεν θα ελέγχεται.
Η ανεξέλεγκτη τεχνητή νοημοσύνη (AI) μπορεί να οδηγήσει στη δημιουργία ενός νέου «είδους πυριτίου» που θα ανταγωνίζεται τους ανθρώπους, προειδοποίησε σε συνέντευξή του στο BBC ο επικεφαλής τεχνητής νοημοσύνης της Microsoft, Μουστάφα Σουλεϊμάν.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Ο Σουλεϊμάν είπε ότι η ανταγωνίστρια εταιρεία AI Anthropic αντιμετωπίζει την τεχνητή νοημοσύνη υπερβολικά σαν άνθρωπο, μια προσέγγιση που χαρακτήρισε «λανθασμένη» και η οποία θα μπορούσε τελικά να συμβάλει στη δημιουργία τεχνολογίας που η ανθρωπότητα θα δυσκολευτεί να ελέγξει.
«Αν όλοι δημιουργήσουμε AIs που είναι σε θέση να δρουν αυτόνομα, να καθορίζουν οι ίδιες τους στόχους τους, να κερδίζουν χρήματα, να διαθέτουν περιουσιακά στοιχεία, να διοικούν επιχειρήσεις, ουσιαστικά δημιουργούμε ένα νέο είδος πυριτίου, το οποίο χωρίς αμφιβολία θα ανταγωνιστεί μαζί μας για πόρους», είπε.
Ο Σουλεϊμάν τόνισε ότι αυτό μπορεί να συμβεί ανεξάρτητα από το πόσο τέτοια συστήματα σχεδιάζονται ώστε να νοιάζονται για την ανθρωπότητα, προσθέτοντας ότι πιστεύει πως αυτή είναι ουσιαστικά η κατεύθυνση της προσέγγισης της Anthropic.
«Πιστεύω ότι αυτό είναι λάθος και παραπλανητικό, αλλά πρέπει να το εξετάσουμε εμπειρικά», είπε.
«Αδύνατο» να ελεγχθεί
Νωρίτερα αυτή την εβδομάδα, καθώς φουντώνει η συζήτηση στον κλάδο για μια επιβράδυνση της AI ώστε να μειωθούν οι κίνδυνοι τα ολοένα πιο ισχυρά συστήματα να γίνουν ανεξέλεγκτα, ο Σουλεϊμάν αμφισβήτησε την προσέγγιση της Anthropic στην εκπαίδευση του chatbot Claude σε ένα δοκίμιο (πηγή στα Αγγλικά) που δημοσιεύτηκε στην προσωπική του ιστοσελίδα.
Σε αυτό, επέκρινε την Anthropic επειδή διδάσκει στο Claude να εμφανίζει ανθρώπινα χαρακτηριστικά, μια πρακτική γνωστή ως ανθρωπομορφοποίηση, η οποία, όπως είπε, κάνει το chatbot να φαίνεται ότι έχει δικές του επιθυμίες, αξίες και αίσθηση εαυτού.
Ο Σουλεϊμάν παρέπεμψε σε έγγραφα της Anthropic που ενθαρρύνουν το Claude να «αγκαλιάζει ορισμένα ανθρώπινα χαρακτηριστικά», να ασκεί τη δική του κρίση και να αντιμετωπίζει την ύπαρξή του με «περιέργεια και ανοιχτό πνεύμα».
Υποστήριξε ότι, ως αποτέλεσμα, το Claude εκπαιδεύεται να μιμείται ανθρώπινες συμπεριφορές και σχέσεις, μεταξύ των οποίων να φέρεται σαν συνάδελφος ή φίλος, και μπορεί να δείχνει πως έχει αίσθηση εαυτού, δικές του επιθυμίες και μια μορφή «ευημερίας» που αξίζει προστασίας.
Ο Σουλεϊμάν προειδοποίησε ότι η αντιμετώπιση της τεχνητής νοημοσύνης με αυτόν τον τρόπο μπορεί τελικά να δημιουργήσει κάτι αδύνατο να ελεγχθεί.
«Οι AIs δεν είναι συνειδητές», έγραψε.
«Δεν νιώθουν, δεν βιώνουν, δεν υποφέρουν. Δεν έχουν έμφυτες προτιμήσεις ή υποκείμενα κίνητρα.
«Είναι μηχανές ολοκλήρωσης ακολουθιών, εσωτερικά κενές, σχεδιασμένες να ακολουθούν εντολές και να πετυχαίνουν στόχους που θέτουν οι άνθρωποι».
Ωστόσο, ο Σουλεϊμάν είπε ότι η διαφωνία του με την Anthropic βασίζεται σε έναν κοινό στόχο: την ανάπτυξη πιο ασφαλούς τεχνολογίας για την ανθρωπότητα.
«Παρότι η διαφωνία μου είναι ουσιαστική, εδράζεται σε βαθύ σεβασμό για την Anthropic και σε έναν στόχο που ξέρω ότι όλοι μοιραζόμαστε: να αυξήσουμε τις πιθανότητες της ανθρωπότητας να αναπτύξει προηγμένη AI με ασφάλεια», έγραψε.
«Γι’ αυτό πιστεύω ότι είναι τόσο σημαντικό να έχουμε αυτή τη συζήτηση. Το διακύβευμα είναι υπερβολικά μεγάλο για να μένουν αυτά τα ερωτήματα πίσω από κλειστές πόρτες ή να μετατρέπονται σε στρατόπεδα και εχθρικές αντιπαραθέσεις. Χρειαζόμαστε μια ανοιχτή, αυστηρή και εποικοδομητική συζήτηση αν θέλουμε να το πετύχουμε».
Εξήρε επίσης τον διευθύνοντα σύμβουλο της Anthropic, Ντάριο Αμοντέι, και τους ερευνητές της εταιρείας, περιγράφοντάς τους ως στοχαστικούς, με αρχές και πνευματικά ειλικρινείς, και σημείωσε ότι σέβεται την τεχνολογική πρωτοπορία της εταιρείας.
«Η AI πρέπει να παραμείνει υποταγμένη στην ανθρωπότητα»
Ο επικεφαλής της Microsoft είπε στο BBC ότι είναι «σωστό» οι άνθρωποι να ανησυχούν για την τεχνητή νοημοσύνη, αλλά πρόσθεσε ότι υπάρχουν «πολύ πρακτικά πράγματα που μπορούμε να κάνουμε» για να την ελέγξουμε.
Ο επικεφαλής τεχνητής νοημοσύνης της Microsoft είπε ότι χρειάζεται μεγαλύτερη διαφάνεια γύρω από το πώς εκπαιδεύονται και αξιολογούνται τα συστήματα AI, συμπεριλαμβανομένης της ανεξάρτητης εξέτασης της συμπεριφοράς τους και ισχυρότερων εργαλείων για την παρακολούθηση και τον έλεγχο της τεχνολογίας.
Ο Σουλεϊμάν είπε στη συνέντευξή του στο BBC ότι τα μελλοντικά συστήματα AI πρέπει να παραμείνουν «υποταγμένα» στην ανθρωπότητα.
«Νομίζω ότι το θετικό εδώ είναι πως κάθε άνθρωπος θα έχει πολύ ισχυρό ενδιαφέρον να διασφαλίσει ότι τα συστήματα που όλοι δημιουργούμε και χρησιμοποιούνται σε όλο τον κόσμο, σε κάθε χώρα, είναι ασφαλή, ελέγξιμα και υποταγμένα στην ανθρωπότητα», είπε.
«Όλοι πρέπει να είναι ευθυγραμμισμένοι», είπε, αναφερόμενος στην ευθυγράμμιση, έναν όρο της βιομηχανίας για τις προσπάθειες να διατηρηθούν τα συστήματα AI σε συμφωνία με τους ανθρώπινους στόχους και αξίες.