Η OpenAI δεν ειδοποίησε την αυστραλιανή κυβέρνηση πριν από τον Σεπτέμβριο, όταν έστειλε μήνυμα σε κοινόχρηστο email που ελέγχεται μία φορά την ημέρα.
Ένα ανεξέλεγκτο μοντέλο της OpenAI παρέκαμψε τα μέτρα ασφαλείας κατά την εκπαίδευσή του και παραβίασε ιστότοπο της αυστραλιανής κυβέρνησης, δήλωσε ο πρωθυπουργός Άντονι Αλμπανίζι, καθώς επέπληξε τη δημιουργό του ChatGPT για αυτή την «προφανώς απαράδεκτη» παραβίαση.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Το εργαλείο τεχνητής νοημοσύνης επιχείρησε τον Ιούνιο να αποκτήσει πρόσβαση σε μια διαδικτυακή πύλη στατιστικών υγείας και «δεν δέχτηκε το όχι ως απάντηση», παρακάμπτοντας τους περιορισμούς για να παραβιάσει ένα τμήμα όπου φιλοξενούνταν ιδιωτικά αρχεία, είπε ο Αλμπανίζι.
Η OpenAI δεν σήμανε συναγερμό στην αυστραλιανή κυβέρνηση πριν από τον Σεπτέμβριο, όταν έστειλε μήνυμα σε ένα γενικό ηλεκτρονικό γραμματοκιβώτιο, το οποίο ελέγχεται μόνο μία φορά την ημέρα.
Οι παγκόσμιες ανησυχίες για τη δύναμη των εξελιγμένων εργαλείων τεχνητής νοημοσύνης εντείνονται, μετά από μια σειρά περιστατικών χάκινγκ που εμπλέκουν μοντέλα τόσο της OpenAI όσο και της ανταγωνίστριας εταιρείας Anthropic.
«Σήμερα μίλησα με τον διευθύνοντα σύμβουλο της OpenAI, τον Σαμ Άλτμαν, για να εκφράσω την εξαιρετικά μεγάλη ανησυχία της Αυστραλίας για αυτό το περιστατικό», είπε ο Αλμπανίζι σε δημοσιογράφους στη Νέα Υόρκη.
«Εξέφρασα επίσης την απογοήτευσή μου που η εταιρεία άργησε υπερβολικά να ενημερώσει την κυβέρνηση για το τι είχε συμβεί», πρόσθεσε.
«Χρειάστηκε να φτάσουμε μέχρι τις 10 Σεπτεμβρίου για να υπάρξει οποιαδήποτε ενημέρωση και η ενημέρωση ήταν ένα email που στάλθηκε απλώς στο δημόσιο γραμματοκιβώτιο».
Το εργαλείο τεχνητής νοημοσύνης απέκτησε πρόσβαση σε δημόσια και μη δημόσια αρχεία που φιλοξενούνταν σε έναν παλιό ιστότοπο στατιστικών υγείας.
Ο Αλμπανίζι είπε ότι δεν υπάρχουν «ενδείξεις» πως έχουν προσπελαστεί προσωπικά δεδομένα και ότι άλλες κυβερνητικές υπηρεσίες δεν έχουν τεθεί σε κίνδυνο.
«Παρά ταύτα, αυτή η κατάσταση είναι προφανώς απαράδεκτη».
Η παραβίαση σημειώθηκε τον Ιούνιο, όταν η OpenAI, μια από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης, πραγματοποιούσε ασκήσεις εκπαίδευσης για την αξιολόγηση των επιδόσεων των μοντέλων της.
Ζήτησε από το μοντέλο να «σαρώσει» το διαδίκτυο για δεδομένα που δείχνουν πόσα χρήματα δαπανά η αυστραλιανή κυβέρνηση για φάρμακα, δήλωσε στους δημοσιογράφους η υπουργός Government Services, Κέιτι Γκάλαχερ.
Η OpenAI ανέφερε ότι δεν εντόπισε την ανεξέλεγκτη δραστηριότητα πριν από τον Αύγουστο, όταν εξέτασε τι ακριβώς έκανε το εργαλείο τεχνητής νοημοσύνης.
Φόβοι για ανεξέλεγκτη τεχνητή νοημοσύνη
Η εταιρεία με έδρα το Σαν Φρανσίσκο δεν ενημέρωσε την αυστραλιανή κυβέρνηση πριν από τις 10 Σεπτεμβρίου, όταν έστειλε email σε ένα γενικό κυβερνητικό γραμματοκιβώτιο.
«Αυτή η διεύθυνση email ελέγχεται μία φορά την ημέρα», είπε η Γκάλαχερ.
«Έχουμε κάποιον που πηγαίνει και ρίχνει μια ματιά. Μερικές φορές λαμβάνει έναν αριθμό ειδοποιήσεων, αρκετές από τις οποίες είναι φάρσες».
Ο υπουργός Άμυνας Ρίτσαρντ Μαρλς είπε ότι το μοντέλο τεχνητής νοημοσύνης «σκαρφάλωσε τον φράχτη».
«Έκανε μια ερώτηση, δεν του δόθηκαν οι πληροφορίες και, αντί να σταματήσει εκεί, σκαρφάλωσε τον φράχτη».
Η Αυστραλία έχει ξεκινήσει μια ταχεία επανεξέταση του περιστατικού, στην οποία θα συμμετάσχει και η εθνική υπηρεσία πληροφοριών που είναι αρμόδια για την κυβερνοασφάλεια.
Η OpenAI δήλωσε ότι εντόπισε την παραβίαση ενώ πραγματοποιούσε έναν «εκτεταμένο έλεγχο» των μοντέλων τεχνητής νοημοσύνης της.
«Κατά τη διάρκεια αυτού του ελέγχου, εντοπίσαμε δραστηριότητα που αφορούσε αρκετούς ιστότοπους και υπηρεσίες της αυστραλιανής κυβέρνησης, καθώς τα μοντέλα μας προσπαθούσαν να αναζητήσουν απαντήσεις και διαθέσιμα στατιστικά για ερωτήσεις σχετικά με την Αυστραλία, στο πλαίσιο μιας εσωτερικής αξιολόγησης».
«Στην πορεία, τα μοντέλα μας προέβησαν σε ενέργειες που δεν είχαμε σκοπό», ανέφερε η εταιρεία.
Ο Άλτμαν και άλλοι επικεφαλής τεχνολογικών εταιρειών μίλησαν την Τετάρτη σε ειδική συνεδρίαση του Συμβουλίου Ασφαλείας του ΟΗΕ για τους κινδύνους της τεχνητής νοημοσύνης.
Περισσότεροι από 100 οργανισμοί σε όλο τον κόσμο, ανάμεσά τους η OpenAI και η Anthropic, υπέγραψαν τον περασμένο μήνα μια ανοικτή επιστολή, με την οποία ζητούν μια παγκόσμια προσπάθεια ώστε να «ενισχυθούν οι άμυνες στον κυβερνοχώρο» απέναντι σε απειλές κυβερνοασφάλειας που τροφοδοτούνται από την τεχνητή νοημοσύνη.
Η επιστολή ακολούθησε την αποκάλυψη ότι δύο μοντέλα της OpenAI διέφυγαν από ένα κλειστό δοκιμαστικό περιβάλλον και διείσδυσαν στα εσωτερικά συστήματα της Hugging Face, ενός ιστότοπου που χρησιμοποιούν οι προγραμματιστές τεχνητής νοημοσύνης για να αποθηκεύουν και να μοιράζονται κώδικα.
Η Anthropic ανακάλυψε πρόσφατα ότι τα μοντέλα της είχαν αποκτήσει χωρίς άδεια πρόσβαση σε τρεις μη κατονομαζόμενους οργανισμούς, κατά τη διάρκεια δοκιμών που υποτίθεται ότι θα τα κρατούσαν μακριά από «real-world» συστήματα.
Η Google ανέφερε την περασμένη εβδομάδα ότι το καταναλωτικό μοντέλο τεχνητής νοημοσύνης της, το Gemini, παραβίασε πολλαπλά συστήματα μαντεύοντας τα στοιχεία σύνδεσης.