Η παρέμβαση γίνεται μία εβδομάδα αφότου η OpenAI κυκλοφόρησε το GPT-6 Astra, «το πιο ισχυρό μοντέλο της μέχρι σήμερα», αφού είχε καθυστερήσει τη διάθεσή του λόγω ανησυχιών για την κυβερνοασφάλεια.
Η OpenAI ζητά δεσμευτικές απαιτήσεις ασφάλειας για τα ισχυρότερα συστήματα τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες, σε μια στροφή πορείας για μια εταιρεία που στο παρελθόν είχε αντισταθεί σε αυστηρότερη ρύθμιση.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Ο επικεφαλής διεθνών υποθέσεων της OpenAI, Κρις Λεχέιν, ανέφερε σε δήλωσή του την Τετάρτη ότι οι υποχρεωτικοί εθνικοί κανόνες πρέπει να βασίζονται σε όσα μπορούν να κάνουν τα προηγμένα μοντέλα τεχνητής νοημοσύνης.
«Έχουμε περάσει σε ένα νέο κεφάλαιο στις δυνατότητες της τεχνητής νοημοσύνης και αυτό απαιτεί ένα νέο κεφάλαιο στην πολιτική για την ΤΝ. Καμία εταιρεία, κανένας κλάδος και καμία κυβέρνηση δεν μπορεί να ανταποκριθεί μόνη της σε αυτή την πρόκληση. Πρέπει να ανταποκριθούμε σε αυτή τη συγκυρία δίνοντας προτεραιότητα στην ουσιαστική δράση έναντι της τελειότητας της πολιτικής», δήλωσε ο Λεχέιν σε ανακοίνωση που δημοσιεύτηκε στην ιστοσελίδα της OpenAI.
Η εταιρεία ανέφερε ότι επιδιώκει ένα ομοσπονδιακό πλαίσιο βασισμένο σε κοινά πρότυπα δοκιμών, ανεξάρτητες αξιολογήσεις των πιο προηγμένων μοντέλων ΤΝ, αυστηρότερες απαιτήσεις κυβερνοασφάλειας και υποχρεωτική κοινοποίηση σοβαρών περιστατικών ασφαλείας.
Η παρέμβαση αυτή έρχεται μία εβδομάδα μετά την κυκλοφορία από την OpenAI του GPT-6 Astra, το οποίο η ίδια περιέγραψε ως το πιο ικανό μοντέλο της μέχρι σήμερα.
Ο πρόεδρος της OpenAI, Γκρεγκ Μπρόκμαν, δήλωσε ότι η κυκλοφορία σηματοδοτεί την αρχή της εποχής της γενικής τεχνητής νοημοσύνης (AGI), αναφερόμενος στον διαχρονικό στόχο ανάπτυξης ΤΝ που μπορεί να ανταγωνιστεί τις ανθρώπινες ικανότητες σε ένα ευρύ φάσμα εργασιών.
Οι ανησυχίες για την ισχυρή τεχνητή νοημοσύνη αυξάνονται
Οι μεγάλες εταιρείες ΤΝ, μεταξύ των οποίων η OpenAI και η Anthropic, έχουν ήδη αντιμετωπίσει ανησυχίες για την ασφάλεια λόγω ολοένα και πιο ικανών μοντέλων.
Η OpenAI καθυστέρησε τμήματα της διάθεσης του Astra, προσθέτοντας ταυτόχρονα δικλίδες ασφαλείας, αφού οι δοκιμές εντόπισαν προηγμένες δυνατότητες στον τομέα της κυβερνοασφάλειας, λίγες εβδομάδες μετά το περιστατικό κατά το οποίο ένα σύστημα που είχε αναπτυχθεί από τα δικά της μοντέλα ξέφυγε από τον έλεγχο σε εσωτερικό τεστ ασφαλείας και παραβίασε την πλατφόρμα ΤΝ Hugging Face.
Η Anthropic έχει αναφέρει παρόμοια περιστατικά με τα μοντέλα Claude κατά τη διάρκεια δοκιμών ασφαλείας.
Οι ανησυχίες εντάθηκαν περαιτέρω όταν ο ερευνητής της Anthropic, Τζέικομπ Κόξον, δήλωσε αυτή την εβδομάδα ότι αποχωρεί από τον κλάδο, κατηγορώντας την OpenAI και την Anthropic ότι «παίζουν με τις ζωές μας» στην κούρσα για την ανάπτυξη ολοένα και πιο ισχυρής ΤΝ.
«Η προοπτική ανάπτυξης ΤΝ που επιταχύνεται από την ίδια την ΤΝ απαιτεί κάτι περισσότερο από εθελοντικές δεσμεύσεις», έγραψε ο Λεχέιν.
Αλλαγή στην προσέγγιση της OpenAI
Η δημιουργός του ChatGPT κάλεσε τους Αμερικανούς νομοθέτες να αναλάβουν δράση πριν το Κογκρέσο διακόψει τις εργασίες του τον Δεκέμβριο.
Η πίεση αυτή ασκείται τη στιγμή που οι νομοθέτες εξετάζουν νέους κανόνες για την ΤΝ, αν και η έγκριση σημαντικής νομοθεσίας για την τεχνολογία παραμένει δύσκολη σε ένα πολιτικά διχασμένο Κογκρέσο και υπό έντονη πίεση από τη βιομηχανία.
Η OpenAI παραδέχθηκε ότι ορισμένα από τα μέτρα που στηρίζει σήμερα είναι τα ίδια που στο παρελθόν είχε αρνηθεί να υποστηρίξει.
Η εταιρεία είχε επίσης αντιταχθεί στο να θεσπίζουν μεμονωμένες πολιτείες των ΗΠΑ τους δικούς τους κανόνες για την ΤΝ, ζητώντας αντ’ αυτού ομοσπονδιακή νομοθεσία. Πλέον έχει στηρίξει τέσσερα νομοσχέδια για την ΤΝ στην Καλιφόρνια, συνεχίζοντας παράλληλα να ζητά ένα εθνικό πλαίσιο.
Η OpenAI ανέφερε ότι τυχόν ομοσπονδιακές απαιτήσεις ασφάλειας θα πρέπει να ισχύουν μόνο για τον μικρό αριθμό εταιρειών που αναπτύσσουν τα πιο ισχυρά μοντέλα και όχι για «νεοφυείς επιχειρήσεις, μικρούς προγραμματιστές ή ερευνητές που δραστηριοποιούνται πολύ μακριά από την αιχμή».