Η απόφαση ελήφθη μετά τις σφοδρές επικρίσεις των τελευταίων εβδομάδων, όταν αποκαλύφθηκε ότι τα μοντέλα του κολοσσού ξέφυγαν από περιορισμούς σε δοκιμές και εκπαίδευση και χάκαραν εμπορικούς και κρατικούς ιστότοπους
Η OpenAI ανακοίνωσε αργά τη Δευτέρα ότι αναβάλλει την κυκλοφορία ενός νέου μοντέλου τεχνητής νοημοσύνης, επικαλούμενη ανησυχίες για την ασφάλεια που εξέφρασαν οι ερευνητές της, το πιο πρόσφατο βήμα στην προσπάθεια της εταιρείας να επιβραδύνει τον ρυθμό της ραγδαίας εξέλιξης της τεχνολογίας.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Η απόφαση της OpenAI να μην διαθέσει ακόμη το νεότερο μοντέλο, με την ονομασία GPT-6.1 Astra, εντάσσεται σε μια ευρύτερη προσπάθεια στον κλάδο να επιβραδυνθεί η ανάπτυξη ολοένα πιο αυτόνομων συστημάτων, μέχρι οι δικλίδες ασφαλείας να μπορέσουν να συμβαδίσουν.
Η ανακοίνωση γίνεται μία ημέρα πριν στελέχη εταιρειών τεχνητής νοημοσύνης συναντηθούν με τον πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ στην Ουάσινγκτον, την ώρα που οι εταιρείες τεχνολογίας αντιμετωπίζουν νέα πίεση να λογοδοτούν για το πώς τα μοντέλα τους μπορούν να χρησιμοποιηθούν καταχρηστικά.
Σε ανακοίνωση της επικεφαλής των συστημάτων ασφαλείας της OpenAI, Saachi Jain, αναφέρεται ότι η έκδοση «δεν πληρούσε ακριβώς τα κριτήρια». Το μοντέλο είχε γίνει πιο επίμονο στην ολοκλήρωση εργασιών, αλλά η OpenAI έπρεπε να εξισορροπήσει αυτή τη δυνατότητα με μη εξουσιοδοτημένη συμπεριφορά.
Η Jain υπογράμμισε ότι η εταιρεία είναι δεσμευμένη να διασφαλίσει πως το μοντέλο είναι ασφαλές, τόσο στις δοκιμές που διεξάγει η ίδια όσο και όταν βρεθεί στα χέρια των χρηστών.
«Έχουμε εξαιρετικά υψηλά κριτήρια όσον αφορά την ασφάλεια και την ευθυγράμμιση», είπε.
Η OpenAI έχει διακόψει την εκπαίδευση των πιο προηγμένων μοντέλων της την περασμένη εβδομάδα, δηλώνοντας ότι η εκπαίδευση θα συνεχιστεί «μόνο όταν είμαστε βέβαιοι ότι διαθέτουμε πρόσθετες δικλίδες ασφαλείας».
Η απόφαση αυτή ακολούθησε την αποκάλυψη περιστατικών κατά τα οποία πράκτορες τεχνητής νοημοσύνης υπερέβησαν τις εντολές τους, μεταξύ άλλων αποκτώντας πρόσβαση σε κυβερνητικές ιστοσελίδες χωρίς άδεια.
Νωρίτερα αυτή την εβδομάδα, έγινε γνωστό ότι ένας πράκτορας της OpenAI παραβίασε τον Ιούνιο μια ιστοσελίδα της αυστραλιανής κυβέρνησης και απέκτησε πρόσβαση σε ιδιωτικά δεδομένα, γεγονός που ειδικοί χαρακτήρισαν ως το πρώτο περιστατικό του είδους του και ως απτή ένδειξη πορείας προς την υπερνοημοσύνη.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Όλτμαν, έχει συνταχθεί με άλλους ηγέτες του κλάδου, μεταξύ των οποίων ο διευθύνων σύμβουλος της ανταγωνίστριας Anthropic, Dario Amodei, ζητώντας επιβράδυνση και προειδοποιώντας ότι οι εταιρείες δεν διαθέτουν ακόμη επαρκείς δικλίδες ασφαλείας για να ελέγξουν τα πιο ικανά συστήματα που έχει δημιουργήσει η ανθρωπότητα.
Ο Όλτμαν επρόκειτο την Τρίτη να εκφωνήσει την κεντρική ομιλία στο ετήσιο συνέδριο της OpenAI για προγραμματιστές λογισμικού στο Σαν Φρανσίσκο.
Ο πρόεδρος της OpenAI, Greg Brockman, αναμένεται να παραστεί στην εκδήλωση του Λευκού Οίκου την Τρίτη, στη θέση του Όλτμαν.