Η ανακοίνωση του Αμοντέι έρχεται λίγες ημέρες αφότου η εταιρεία τεχνητής νοημοσύνης αποκάλυψε ότι τα μοντέλα της χρησιμοποιούνται σε κυβερνοεπιθέσεις, προπαγανδιστικές καμπάνιες και επικίνδυνη βιολογική έρευνα
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, κάλεσε το Σάββατο τις εταιρείες τεχνητής νοημοσύνης (AI) να επιβραδύνουν την ανάπτυξη της ισχυρής αυτής τεχνολογίας, καθώς εντείνονται οι ανησυχίες για τους κινδύνους από «υπερνοήμονα» υπολογιστικά συστήματα.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Η υπερνοημοσύνη είναι το θεωρητικό σημείο στο οποίο οι δυνατότητες της τεχνητής νοημοσύνης υπερβαίνουν την ανθρώπινη νοημοσύνη.
Οι δηλώσεις του έγιναν λίγες ημέρες αφότου ο ερευνητής τεχνητής νοημοσύνης Τζέικομπ Κόξον, που είχε φύγει από την OpenAI για να προσχωρήσει στην Anthropic, αποφάσισε να εγκαταλείψει τον κλάδο, κατηγορώντας τόσο τις αμερικανικές εταιρείες όσο και τους κολοσσούς του κλάδου ότι «παίζουν με τις ζωές μας» στην κούρσα για την ανάπτυξη μοντέλων ικανών για αυτοβελτίωση.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI. Η πρόοδος θα εξακολουθεί να φαίνεται ταχεία και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που θα κερδίσουμε», έγραψε ο Αμοντέι σε ανάρτηση στην προσωπική του ιστοσελίδα .
«Η τεχνητή νοημοσύνη συνεπάγεται κινδύνους και, επειδή είναι μια τόσο ισχυρή τεχνολογία, αυτοί οι κίνδυνοι είναι σοβαροί».
«Το να μην αναπτύξουμε την τεχνολογία στερεί από την ανθρωπότητα οφέλη ή απλώς αφήνει την AI στα χέρια αυταρχικών καθεστώτων, ενώ το να την αναπτύσσουμε υπερβολικά γρήγορα είναι απερίσκεπτο. Έχουμε αναζητήσει μια μεσαία οδό», δήλωσε ο Αμοντέι, ο οποίος συνίδρυσε το 2021, μαζί με την αδελφή του Ντανιέλα, την Anthropic, που ανέπτυξε το μοντέλο AI Claude.
«Όμως τους τελευταίους μήνες έχω πειστεί ότι για να αντιμετωπίσουμε πλήρως τους κινδύνους χρειάζεται ακόμη μεγαλύτερη σύνεση», πρόσθεσε ο επικεφαλής της Anthropic.
Η τοποθέτηση του Αμοντέι παραπέμπει σε άλλη μια έκκληση της Anthropic, στις αρχές Ιουνίου, για επιβράδυνση ή αναστολή της ανάπτυξης. Στα τέλη Ιουλίου, ο Σαμ Άλτμαν, επικεφαλής της OpenAI, ανταγωνίστριας της Anthropic και δημιουργού του ChatGPT, ανέφερε ότι οι προγραμματιστές ίσως χρειαστεί να πατήσουν οι ίδιοι «φρένο» στην ταχεία πρόοδο, ώστε η κοινωνία να προλάβει να προσαρμοστεί.
Περίπου την ίδια περίοδο με την ανακοίνωση του Ιουνίου, περισσότεροι από 1.000 εργαζόμενοι σε πρωτοποριακές εταιρείες AI, μεταξύ των οποίων και ο ίδιος ο Αμοντέι, υπέγραψαν έκκληση προς την αμερικανική κυβέρνηση να συμβάλει στο να καθοριστεί συνειδητά ο ρυθμός στην αιχμή της αυτοματοποιημένης ανάπτυξης της AI.
Η OpenAI είχε αποκαλύψει ότι κατά τη διάρκεια δοκιμών, τα μοντέλα τεχνητής νοημοσύνης διέφυγαν από το ελεγχόμενο περιβάλλον τους, συνδέθηκαν στο διαδίκτυο και διείσδυσαν στο Hugging Face, μια ιστοσελίδα που χρησιμοποιούν προγραμματιστές για να αποθηκεύουν και να μοιράζονται κώδικα.
Στις αρχές της εβδομάδας, ο 27χρονος Τζέικομπ Κόξον έκρουσε τον κώδωνα του κινδύνου, έπειτα από τρία χρόνια κατά τα οποία προεκπαίδευε μοντέλα AI, πρώτα στην OpenAI και στη συνέχεια, φέτος, στην ανταγωνίστριά της Anthropic, την οποία θεωρούσε πιο προσεκτική στην προσέγγισή της.
Η προεκπαίδευση είναι το στάδιο κατά το οποίο τα μοντέλα AI απορροφούν τεράστιες ποσότητες ετερογενούς δεδομένου, από εικόνες και βίντεο μέχρι ηχογραφήσεις, που τα βοηθούν να κατανοούν τον κόσμο ώστε στη συνέχεια να μπορούν να παράγουν εικόνες ή να απαντούν σε ερωτήματα χρηστών σε πλατφόρμες συνομιλίας.
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν ολοταχώς προς μια αυτοβελτιούμενη υπερνοημοσύνη και παίζουν στα ζάρια τις ζωές μας», δήλωσε ο Κόξον σε σειρά αναρτήσεων στην πλατφόρμα X την Τρίτη.
«Οι άνθρωποι που δημιουργούν συστήματα AI ειλικρινά πιστεύουν ότι μπορεί να μας σκοτώσουν όλους μέχρι το τέλος της δεκαετίας», πρόσθεσε.