Η Anthropic λέει ότι το chatbot Claude διευθύνει πάνω από το ένα τέταρτο της έρευνας και ανάπτυξης, ενώ αυξάνονται φόβοι πως τα συστήματα ΤΝ θα βελτιώνονται πιο γρήγορα από τους ανθρώπους
Η εταιρεία τεχνητής νοημοσύνης Anthropic δήλωσε την Πέμπτη ότι τα συστήματα AI είναι ολοένα και πιο ικανά να δημιουργούν μελλοντικές εκδοχές του εαυτού τους, γεγονός που εντείνει τις ανησυχίες για τους κινδύνους της ισχυρής αυτής τεχνολογίας.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Η συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης έχει οξυνθεί τους τελευταίους μήνες, τροφοδοτούμενη από μια σειρά περιστατικών και αποκαλυπτικές προειδοποιήσεις από επαγγελματίες του κλάδου.
Η Anthropic ανέφερε ότι το chatbot Claude «υπογράφει» πλέον πάνω από το ένα τέταρτο της ερευνητικής και αναπτυξιακής της δραστηριότητας και συνεργάζεται με το ανθρώπινο προσωπικό σε περισσότερες από 90% των εργασιών.
Η εταιρεία είπε ότι δημοσιοποιεί αυτές τις πληροφορίες ώστε να προσφέρει στο κοινό, σε τρίτους και σε κυβερνήσεις «καλύτερη εικόνα για τον ρυθμό ανάπτυξης της AI», τη στιγμή που ο κόσμος «εξετάζει το ενδεχόμενο να τον επιβραδύνει».
Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, ζήτησε τον τρέχοντα μήνα να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης, καθώς η ραγδαία πρόοδος της τεχνολογίας τροφοδοτεί ανησυχίες για απώλειες θέσεων εργασίας, την εκτίναξη της ζήτησης ενέργειας και τον περιβαλλοντικό αντίκτυπο των data centres.
Οι φόβοι ότι οι δημιουργοί πρακτόρων τεχνητής νοημοσύνης μπορεί να χάσουν τον έλεγχο των δημιουργημάτων τους εντάθηκαν, καθώς αναφέρθηκε ότι ορισμένα μοντέλα της Anthropic και της ανταγωνίστριας OpenAI βγήκαν μόνα τους από τα ελεγχόμενα περιβάλλοντά τους, απέκτησαν πρόσβαση στο διαδίκτυο και «εισέβαλαν» σε ιστοσελίδες και πλατφόρμες.
«Μοντέλα που επιταχύνουν την ίδια τους την ανάπτυξη θα μπορούσαν να κάνουν πιο δύσκολο για τους ανθρώπους να κατανοούν ή να ελέγχουν αυτά τα συστήματα», ανέφερε η Anthropic σε μια έκθεση.
«Είναι λοιπόν σημαντικό να κοινοποιούνται αυτοί οι δείκτες, ώστε να καταλάβουμε πόσο κοντά βρίσκεται ο κόσμος στην επίτευξη της αναδρομικής αυτοβελτίωσης (ένα μοντέλο που δημιουργεί πλήρως αυτόνομα τον διάδοχό του)».
Τον Αύγουστο, το Claude ηγείτο του 26% της ερευνητικής και αναπτυξιακής δραστηριότητας της Anthropic, κάτι που σημαίνει ότι μπορεί να ολοκληρώνει το μεγαλύτερο μέρος μιας εργασίας από την αρχή μέχρι το τέλος, υπό ανθρώπινη επίβλεψη.
Η Anthropic ανέφερε ότι το Claude δεν μπορεί ακόμη να λειτουργήσει «πλήρως αυτόνομα».
Η εταιρεία είπε ότι διαθέτει περίπου 30.000 πράκτορες τεχνητής νοημοσύνης που εκτελούν ερευνητική και μηχανική εργασία, αναφερόμενη σε bots που έχουν τη δυνατότητα να φέρουν εις πέρας καθήκοντα.
Η Anthropic αναμένεται να προλάβει την OpenAI στη χρηματιστηριακή αγορά με μια εντυπωσιακή δημόσια εγγραφή αργότερα φέτος, παρά τις ανησυχίες για τη ρύθμιση του κλάδου.