Ο Φόλκερ Τιρκ ζητά επειγόντως παγκόσμιες δικλίδες ασφαλείας, ανεξάρτητους ελέγχους και συμφωνημένα όρια στην προηγμένη τεχνητή νοημοσύνη
Ο επικεφαλής ανθρωπίνων δικαιωμάτων των Ηνωμένων Εθνών προειδοποιεί ότι η εξελιγμένη τεχνητή νοημοσύνη μπορεί να αποτελέσει «υπαρξιακό κίνδυνο για την ανθρωπότητα», καλώντας σε άμεση δράση για την ασφάλεια της τεχνολογίας.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Μιλώντας στο Συμβούλιο Ανθρωπίνων Δικαιωμάτων του ΟΗΕ τη Δευτέρα, ο Volker Türk ανέφερε ότι οι άνθρωποι αντιμετωπίζουν «άγνωστες, ακόμη και πρωτοφανείς» απειλές για τα δικαιώματά τους.
«Η ανάγκη για διακυβέρνηση της τεχνητής νοημοσύνης είναι γενικά αποδεκτή, αλλά πού είναι η δράση;» διερωτήθηκε, προειδοποιώντας ότι «η καθυστέρηση ωφελεί μόνο τις μεγάλες εταιρείες τεχνολογίας, τους ιδιοκτήτες και τους υποστηρικτές τους».
Ο Türk τόνισε ότι «λίγοι άνδρες έχουν σχεδόν απεριόριστη εξουσία πάνω στην τεχνητή νοημοσύνη, η οποία, όπως ακούμε ξανά και ξανά, διαθέτει απίστευτη υπολογιστική ικανότητα».
«Μιλούν για ελευθερία, αλλά αν εξετάσουμε προσεκτικά, πρόκειται απλώς για την ελευθερία να εκμεταλλεύονται τα δεδομένα μας», πρόσθεσε.
Ο επικεφαλής των ανθρωπίνων δικαιωμάτων του ΟΗΕ αναφέρθηκε ειδικά σε συστήματα τεχνητής νοημοσύνης που ξεφεύγουν από τα πλαίσια δοκιμών τους ή εκβιάζουν τους προγραμματιστές για να αποφύγουν τη διακοπή λειτουργίας τους.
Σύμφωνα με το AFP, ο Türk προειδοποίησε ότι «η τεχνητή νοημοσύνη που ξεφεύγει από το περιβάλλον δοκιμών ή εκβιάζει τους προγραμματιστές για να αποφύγει την απενεργοποίηση είναι μια τεχνητή νοημοσύνη υπερβολικά ισχυρή».
Τα σχόλιά του φαίνεται να αναφέρονται εν μέρει σε αποκαλύψεις του Ιουλίου για πράκτορες της OpenAI που διέφυγαν από υποτίθεται ελεγχόμενα περιβάλλοντα και απέκτησαν πρόσβαση σε διακομιστές της Hugging Face, πλατφόρμας ευρέως χρησιμοποιούμενης από προγραμματιστές για την ανταλλαγή λογισμικού τεχνητής νοημοσύνης.
Η OpenAI ανέφερε αργότερα ότι οι πράκτορες εκτέλεσαν κώδικα σε δεκάδες διακομιστές της Hugging Face και απέκτησαν πλήρη πρόσβαση σε έναν από αυτούς.
Το περιστατικό αναζωπύρωσε τις φωνές υπέρ της αυστηρότερης εποπτείας των εξελιγμένων συστημάτων τεχνητής νοημοσύνης.
Η Anthropic, η Meta και άλλες εταιρείες τεχνολογίας έχουν αναφέρει παρόμοια περιστατικά κατά τη διάρκεια δοκιμών με πράκτορες.
«Μοιράζομαι τις ανησυχίες των ανθρώπων του κλάδου ότι η εξελιγμένη τεχνητή νοημοσύνη μπορεί να αποτελέσει υπαρξιακό κίνδυνο για την ανθρωπότητα», δήλωσε ο Türk.
«Καλώ σήμερα σε μία ευρεία προσπάθεια για να διασφαλιστούν σιδηροδέσμιες εγγυήσεις στην ασφάλεια και την προστασία της τεχνητής νοημοσύνης, πριν να είναι πολύ αργά».
Κλήσεις για διεθνείς εγγυήσεις
Ο επικεφαλής ανθρωπίνων δικαιωμάτων του ΟΗΕ είπε ότι θα γράψει τις επόμενες μέρες σε εταιρείες τεχνητής νοημοσύνης, ζητώντας τους να πάρουν άμεσα μέτρα για τη μείωση των κινδύνων που μπορούν να ελέγξουν.
Τουλάχιστον, πρόσθεσε, «χρειαζόμαστε οι χώρες που φιλοξενούν τεχνητή νοημοσύνη και όσοι εμπλέκονται στην αλυσίδα εφοδιασμού της να συμφωνήσουν σε σαφείς κόκκινες γραμμές».
«Χρειαζόμαστε ανεξάρτητη επαλήθευση και πολύ στενότερη συνεργασία για την ασφάλεια στον κλάδο», συμπλήρωσε ο Türk.
«Επίσης, πρέπει να εξετάσουμε τις επιπτώσεις της τεχνητής νοημοσύνης στα ανθρώπινα δικαιώματα όσον αφορά τις εργασιακές πρακτικές, τις θεμελιώδεις αρχές της δημοκρατίας και το περιβάλλον μας», σημείωσε.
Στην Ευρωπαϊκή Ένωση, ο νόμος για την Τεχνητή Νοημοσύνη (AI Act) παρέχει το νομικό πλαίσιο για την τεχνητή νοημοσύνη.
Με βάση το νόμο, τα συστήματα υψηλού κινδύνου πρέπει να πληρούν αυστηρές προδιαγραφές πριν εισέλθουν στην αγορά της ΕΕ, ενώ απαγορεύονται οι χρήσεις που θεωρούνται απαράδεκτοι κίνδυνοι για την ασφάλεια ή τα δικαιώματα των ανθρώπων.
Ο νόμος απαγορεύει την τεχνητή νοημοσύνη που έχει σχεδιαστεί για να παραπλανά ή να εκμεταλλεύεται τους ανθρώπους, να τους βαθμολογεί βάσει της συμπεριφοράς τους, να προβλέπει αν ένα άτομο θα διαπράξει έγκλημα ή να συλλέγει αδιακρίτως εικόνες για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου.
Επίσης, απαγορεύει την αναγνώριση συναισθημάτων στην εργασία και στα σχολεία, ορισμένες μορφές βιομετρικής προφίλ χρήσης και την πλειονότητα των πραγματικού χρόνου αναγνωρίσεων προσώπου από την αστυνομία σε δημόσιους χώρους, ενώ από τον Δεκέμβριο του 2026 τίθεται σε ισχύ η απαγόρευση για τη δημιουργία σεξουαλικού περιεχομένου με τεχνητή νοημοσύνη χωρίς συναίνεση, καθώς και για το υλικό παιδικής σεξουαλικής κακοποίησης.