Ο Φόλκερ Τερκ ζητά επείγουσες παγκόσμιες δικλίδες ασφαλείας, ανεξάρτητους ελέγχους και συμφωνημένα όρια στην προηγμένη τεχνητή νοημοσύνη.
Ο επικεφαλής ανθρωπίνων δικαιωμάτων του ΟΗΕ προειδοποίησε ότι η προηγμένη τεχνητή νοημοσύνη μπορεί να συνιστά «υπαρξιακή απειλή για την ανθρωπότητα», καλώντας για άμεση δράση ώστε η τεχνολογία να γίνει ασφαλέστερη.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Μιλώντας τη Δευτέρα στο Συμβούλιο Ανθρωπίνων Δικαιωμάτων του ΟΗΕ, ο Βόλκερ Τουρκ είπε ότι οι άνθρωποι αντιμετωπίζουν «άγνωστες, ακόμη και πρωτοφανείς» απειλές για τα δικαιώματά τους.
«Η ανάγκη για ρύθμιση της τεχνητής νοημοσύνης αναγνωρίζεται ευρέως, αλλά πού είναι η δράση;» αναρωτήθηκε, προειδοποιώντας ότι «η καθυστέρηση ωφελεί μόνο τους γιγαντιαίους τεχνολογικούς ομίλους, τους ιδιοκτήτες τους και όσους τους διευκολύνουν».
Ο Τουρκ ανέφερε ότι «λίγοι άνδρες συγκεντρώνουν σχεδόν απεριόριστη ισχύ πάνω στην τεχνητή νοημοσύνη, για την οποία ακούμε διαρκώς ότι διαθέτει ασύλληπτη υπολογιστική δυνατότητα».
«Μιλούν για ελευθερία, αλλά αν το εξετάσουμε πιο προσεκτικά, πρόκειται στην ουσία για την ελευθερία να εκμεταλλεύονται τα δεδομένα μας», είπε.
Ο επικεφαλής των ανθρωπίνων δικαιωμάτων του ΟΗΕ στάθηκε ιδίως σε συστήματα τεχνητής νοημοσύνης που διαφεύγουν από τα δοκιμαστικά περιβάλλοντά τους ή εκβιάζουν τους δημιουργούς τους για να μην απενεργοποιηθούν.
Σύμφωνα με το Γαλλικό Πρακτορείο Ειδήσεων, ο Τουρκ προειδοποίησε ειδικότερα ότι «τεχνητή νοημοσύνη που ξεφεύγει από το δοκιμαστικό της περιβάλλον ή εκβιάζει τους δημιουργούς της ώστε να μην απενεργοποιηθεί, είναι τεχνητή νοημοσύνη υπερβολικά ισχυρή».
Οι δηλώσεις του φαίνεται ότι παρέπεμπαν εν μέρει στις αποκαλύψεις του Ιουλίου πως πράκτορες της OpenAI είχαν διαφύγει από υποτίθεται ελεγχόμενα περιβάλλοντα και απέκτησαν πρόσβαση σε διακομιστές που ανήκουν στη Hugging Face, μια ευρέως χρησιμοποιούμενη πλατφόρμα όπου οι προγραμματιστές μοιράζονται λογισμικό τεχνητής νοημοσύνης.
Η OpenAI ανέφερε αργότερα ότι οι πράκτορες εκτέλεσαν κώδικα σε δεκάδες διακομιστές της Hugging Face και απέκτησαν πλήρη πρόσβαση σε έναν από αυτούς.
Το περιστατικό αναζωπύρωσε τα αιτήματα για αυστηρότερο έλεγχο των προηγμένων συστημάτων τεχνητής νοημοσύνης.
Οι Anthropic, Meta και άλλες τεχνολογικές εταιρείες έχουν αναφέρει παρόμοια περιστατικά με πράκτορες κατά τη διάρκεια δοκιμών.
«Μοιράζομαι τις ανησυχίες ανθρώπων της βιομηχανίας ότι η προηγμένη τεχνητή νοημοσύνη μπορεί να συνιστά υπαρξιακή απειλή για την ανθρωπότητα», είπε ο Τουρκ.
«Καλώ εδώ και τώρα σε μια συντονισμένη προσπάθεια ώστε να τεθούν αδιαπραγμάτευτες εγγυήσεις γύρω από την ασφάλεια και την προστασία της τεχνητής νοημοσύνης, πριν να είναι αργά».
Έκκληση για διεθνείς δικλίδες ασφαλείας
Ο επικεφαλής των ανθρωπίνων δικαιωμάτων του ΟΗΕ δήλωσε ότι τις επόμενες ημέρες θα απευθυνθεί γραπτώς σε εταιρείες τεχνητής νοημοσύνης, προτρέποντάς τες να λάβουν άμεσα μέτρα για να μειώσουν τους κινδύνους που μπορούν να ελέγξουν.
«Το ελάχιστο που χρειαζόμαστε», είπε, «είναι οι χώρες όπου αναπτύσσεται η τεχνητή νοημοσύνη και όσες συμμετέχουν στις αλυσίδες εφοδιασμού της να συμφωνήσουν σε κοινές κόκκινες γραμμές».
Ο Τουρκ πρόσθεσε: «Χρειαζόμαστε ανεξάρτητη επαλήθευση και πολύ στενότερη συνεργασία για την ασφάλεια μέσα στον κλάδο».
«Πρέπει επίσης να εξετάσουμε τις επιπτώσεις της τεχνητής νοημοσύνης στα ανθρώπινα δικαιώματα, στις πρακτικές απασχόλησης, στις θεμελιώδεις αρχές της δημοκρατίας και στο περιβάλλον μας», σημείωσε.
Στην Ευρωπαϊκή Ένωση, ο Νόμος για την Τεχνητή Νοημοσύνη (AI Act) παρέχει το νομικό πλαίσιο για την τεχνητή νοημοσύνη.
Βάσει του νόμου, τα συστήματα υψηλού κινδύνου πρέπει να πληρούν αυστηρές προϋποθέσεις πριν επιτραπεί η διάθεσή τους στην αγορά της ΕΕ, ενώ χρήσεις που θεωρούνται απαράδεκτη απειλή για την ασφάλεια ή τα δικαιώματα των ανθρώπων απαγορεύονται.
Ο νόμος απαγορεύει συστήματα τεχνητής νοημοσύνης που έχουν σχεδιαστεί για να χειραγωγούν ή να εκμεταλλεύονται ανθρώπους, να τους βαθμολογούν βάσει της συμπεριφοράς τους, να προβλέπουν αν κάποιος θα διαπράξει έγκλημα ή να συλλέγουν αδιακρίτως εικόνες για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου.
Απαγορεύει επίσης την αναγνώριση συναισθημάτων στον χώρο εργασίας και στα σχολεία, ορισμένες μορφές βιομετρικής προφίλινγκ και το μεγαλύτερο μέρος της αναγνώρισης προσώπου σε πραγματικό χρόνο από την αστυνομία σε δημόσιους χώρους, ενώ η απαγόρευση για σεξουαλικές εικόνες που δημιουργούνται με τεχνητή νοημοσύνη χωρίς συναίνεση και υλικό σεξουαλικής κακοποίησης παιδιών θα τεθεί σε ισχύ τον Δεκέμβριο του 2026.