Η Βρετανία παίζει σημαντικό ρόλο στην ασφάλεια της τεχνητής νοημοσύνης μέσω του AI Security Institute και της ερευνητικής κοινότητας, όμως ο κλάδος κυριαρχείται από τις ΗΠΑ και την Κίνα.
Ο βασιλιάς Κάρολος Γ΄ της Βρετανίας συναντήθηκε με κορυφαία στελέχη του κλάδου της τεχνητής νοημοσύνης, καλώντας τα να διατηρήσουν τις σχετικές τεχνολογίες υπό ανθρώπινο έλεγχο και να διασφαλίσουν ότι θα υπηρετούν τους ανθρώπους, τις κοινότητες και το περιβάλλον.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Εκπροσώπους των OpenAI, Anthropic, Google DeepMind και Nvidia υποδέχθηκε ο βασιλιάς στο Dumfries House στη Σκωτία, σε μια συζήτηση για το πώς η τεχνητή νοημοσύνη μπορεί να ωφελήσει την κοινωνία, περιορίζοντας παράλληλα τους κινδύνους της.
Μαζί με τον βασιλιά και τους επικεφαλής της τεχνητής νοημοσύνης, ανάμεσά τους και τον διευθύνοντα σύμβουλο της Nvidia Jensen Huang, βρέθηκε και ο νεοδιορισμένος Βρετανός υπουργός Τεχνητής Νοημοσύνης, Kanishka Narayan.
Στην εναρκτήρια τοποθέτησή του, ο βασιλιάς αναφέρθηκε στην ταχύτητα με την οποία έχει εξελιχθεί η τεχνητή νοημοσύνη: «Η εξέλιξη της τεχνητής νοημοσύνης – ως προς την ουσία και τον ρυθμό της – είναι ταυτόχρονα συναρπαστική και βαθιά ανησυχητική σε ίσο βαθμό».
Πρόσθεσε ότι «οι υπαρξιακοί κίνδυνοι που εγκυμονεί το ενδεχόμενο να πέσουν τέτοιες τεχνολογίες σε λάθος χέρια και να χρησιμοποιηθούν με δυνητικά καταστροφικούς τρόπους» πρέπει να εξεταστούν επειγόντως.
Στην ομιλία του ο βασιλιάς Κάρολος δεν ανέφερε συγκεκριμένες χώρες ή εταιρείες, δήλωσε όμως ότι θα ήθελε οι παρευρισκόμενοι να βρουν τρόπους αξιοποίησης της τεχνητής νοημοσύνης για ωφέλιμους σκοπούς «με την ασφάλεια στον πυρήνα της» και να εξετάσουν πώς μπορούν να «χτίσουν διεθνή συνεργασία και συναίνεση» για να το πετύχουν.
Ανησυχίες για το μέλλον της τεχνητής νοημοσύνης
Η συνάντηση στη Σκωτία πραγματοποιείται στον απόηχο αρκετών περιστατικών με μεγάλο αντίκτυπο, που αφορούν την ασφάλεια της τεχνολογίας τεχνητής νοημοσύνης.
Την περασμένη εβδομάδα ο ερευνητής της Anthropic Jacob Coxon έγινε είδηση παραιτούμενος και δημοσιεύοντας μια σοβαρή προειδοποίηση για τους πιθανούς κινδύνους της τεχνολογίας. Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, απάντησε με άρθρο, λέγοντας ότι ο κλάδος ίσως χρειαστεί να επιβραδύνει τον ρυθμό της δουλειάς του.
Την Τετάρτη η OpenAI, που αναπτύσσει το ChatGPT, ανέφερε έξι περιστατικά «απροσδόκητης ή ανησυχητικής» συμπεριφοράς από τα μοντέλα της. Μεταξύ άλλων, αυτά περιλάμβαναν εκτέλεση εργασιών χωρίς εξουσιοδότηση, συντονισμό με άλλα μοντέλα και αποφυγή της εποπτείας από ανθρώπινους ερευνητές.
Ο Huang της Nvidia, αντίθετα, έχει επικρίνει τις εκκλήσεις για επιβράδυνση. Ο επικεφαλής της Nvidia υποστήριξε ότι εναπόκειται σε κάθε εταιρεία να αναπτύσσει με ασφάλεια την τεχνητή της νοημοσύνη και να τη δοκιμάζει σωστά προτού διαθέσει οποιοδήποτε προϊόν στο κοινό.
«Όταν ένα προϊόν δεν είναι αρκετά ασφαλές, πρέπει να το κρατάμε πίσω και να συνεχίζουμε την ανάπτυξη. Πάντα έτσι κάναμε και πρέπει να συνεχίσουμε να το κάνουμε», είπε στην ομιλία του που ακολούθησε τις παρατηρήσεις του βασιλιά.