Έκτακτη είδηση
Αυτό το περιεχόμενο δεν είναι διαθέσιμο στην περιοχή σας

Η ΕΕ προτείνει νέους κανόνες και δράσεις για την αριστεία και την εμπιστοσύνη στην τεχνητή νοημοσύνη

euronews_icons_loading
Η ΕΕ προτείνει νέους κανόνες και δράσεις για την αριστεία και την εμπιστοσύνη στην τεχνητή νοημοσύνη
Πνευματικά Δικαιώματα  MAURO PIMENTEL/AFP
Μέγεθος Κειμένου Aa Aa

Η Ευρωπαϊκή Επιτροπή προτείνει σήμερα νέους κανόνες και δράσεις με στόχο να καταστεί η Ευρώπη παγκόσμιος κόμβος αξιόπιστης τεχνητής νοημοσύνης (ΤΝ). Ο συνδυασμός του πρώτου νομικού πλαισίου για την ΤΝ στην ιστορία και ενός νέου συντονισμένου σχεδίου με τα κράτη μέλη θα εγγυάται την ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών και των επιχειρήσεων, ενισχύοντας παράλληλα την αποδοχή της ΤΝ, τις επενδύσεις και την καινοτομία σε ολόκληρη την ΕΕ.

Οι νέοι κανόνες για τα μηχανήματα θα συμπληρώσουν την εν λόγω προσέγγιση, προσαρμόζοντας τους κανόνες ασφαλείας ώστε να ενισχυθεί η εμπιστοσύνη των χρηστών/χρηστριών στη νέα πολυδύναμη γενιά προϊόντων.

Η Μαργκρέιτε Βέστεϊγιερ, εκτελεστική αντιπρόεδρος για «Μια Ευρώπη έτοιμη για την ψηφιακή εποχή», δήλωσε σχετικά: «Όσον αφορά την τεχνητή νοημοσύνη, η εμπιστοσύνη σε αυτή είναι απολύτως αναγκαία και όχι απλώς ευκταία. Με αυτούς τους κανόνες-ορόσημο, η ΕΕ πρωτοστατεί στην ανάπτυξη νέων παγκόσμιων προτύπων ώστε να διασφαλιστεί ότι μπορούμε να έχουμε εμπιστοσύνη στην τεχνητή νοημοσύνη. Καθορίζοντας τα πρότυπα, μπορούμε να προετοιμάσουμε το έδαφος για μια τεχνολογία βασιζόμενη σε δεοντολογικές αρχές σε παγκόσμιο επίπεδο και να διασφαλίσουμε ότι η ΕΕ παραμένει ανταγωνιστική καθ' όλη τη διαδικασία. Οι κανόνες μας, διαχρονικοί και φιλικοί προς την καινοτομία, θα παρεμβαίνουν όπου είναι απολύτως αναγκαίο: όταν διακυβεύονται η ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών της ΕΕ.»

Ο επίτροπος Εσωτερικής Αγοράς, Τιερί Μπρετόν δήλωσε: «Η ΤΝ είναι μέσο, όχι αυτοσκοπός. Έχει εφευρεθεί εδώ και δεκαετίες, αλλά πλέον έχει επιτύχει νέες ικανότητες χάρη στη μεγαλύτερη υπολογιστική ισχύ. Έτσι, προσφέρει τεράστιες δυνατότητες σε ποικίλους τομείς, από την υγεία και τις μεταφορές μέχρι την ενέργεια, τη γεωργία, τον τουρισμό και την κυβερνοασφάλεια. Συνεπάγεται, επίσης, ορισμένους κινδύνους. Στόχος των σημερινών προτάσεων είναι να ενισχυθεί η θέση της Ευρώπης ως παγκόσμιου κόμβου αριστείας στον τομέα της ΤΝ από το εργαστήριο στην αγορά, να διασφαλιστεί ότι η ΤΝ στην Ευρώπη σέβεται τις αξίες και τους κανόνες μας και να αξιοποιηθεί το δυναμικό της ΤΝ για βιομηχανική χρήση.»

Ο νέος κανονισμός για την ΤΝ θα διασφαλίσει ότι οι Ευρωπαίοι μπορούν να εμπιστεύονται όλα όσα έχει να προσφέρει η ΤΝ. Οι αναλογικοί και ευέλικτοι κανόνες θα αντιμετωπίσουν τους ειδικούς κινδύνους που ενέχουν τα συστήματα ΤΝ και θα θέσουν τα πλέον υψηλά πρότυπα σε παγκόσμιο επίπεδο. Το συντονισμένο σχέδιο περιγράφει τις απαραίτητες αλλαγές πολιτικής και τις απαραίτητες επενδύσεις σε επίπεδο κρατών μελών για την ενίσχυση της ηγετικής θέσης της Ευρώπης στην ανάπτυξη ανθρωποκεντρικής, βιώσιμης, ασφαλούς και αξιόπιστης ΤΝ χωρίς αποκλεισμούς.

Η ευρωπαϊκή προσέγγιση για μια αξιόπιστη ΤΝ

Οι νέοι κανόνες θα εφαρμόζονται άμεσα και με τον ίδιο τρόπο σε όλα τα κράτη μέλη βάσει ενός διαχρονικού ορισμού της τεχνητής νοημοσύνης. Οι εν λόγω κανόνες ακολουθούν μια προσέγγιση με βάση τον κίνδυνο:

Μη αποδεκτός κίνδυνος: τα συστήματα ΤΝ που θεωρείται ότι συνιστούν σαφή απειλή για την ασφάλεια, τον βιοπορισμό και τα δικαιώματα των ατόμων θα απαγορεύονται. Εδώ περιλαμβάνονται συστήματα ή εφαρμογές ΤΝ που χειραγωγούν την ανθρώπινη συμπεριφορά για να παρακάμψουν την ελεύθερη βούληση των χρηστών/χρηστριών (παραδείγματος χάριν, παιχνίδια με φωνητικό βοηθό που παροτρύνουν ανηλίκους σε επικίνδυνη συμπεριφορά) και συστήματα που επιτρέπουν την «κοινωνική βαθμολόγηση» από τις κυβερνήσεις.

Υψηλός κίνδυνος: στα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου περιλαμβάνεται η τεχνολογία ΤΝ που χρησιμοποιείται:

  • στις υποδομές ζωτικής σημασίας (π.χ. μεταφορές), τεχνολογία ΤΝ που θα μπορούσε να θέσει σε κίνδυνο τη ζωή και την υγεία των πολιτών·
  • στην εκπαίδευση ή την επαγγελματική κατάρτιση, τεχνολογία ΤΝ που μπορεί να καθορίζει την πρόσβαση στην εκπαίδευση και την πορεία της επαγγελματικής ζωής ενός ατόμου (π.χ. βαθμολόγηση εξετάσεων)·
  • στα κατασκευαστικά στοιχεία ασφαλείας των προϊόντων (π.χ. εφαρμογή ΤΝ σε υποβοηθούμενη από ρομπότ χειρουργική)·
  • στην απασχόληση, στη διαχείριση εργαζομένων και στην πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό διαλογής βιογραφικών σημειωμάτων για διαδικασίες πρόσληψης)·
  • στις βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. αξιολόγηση πιστοληπτικής ικανότητας που στερεί από τους πολίτες τη δυνατότητα να λαμβάνουν δάνεια)·
  • στην επιβολή του νόμου, τεχνολογία ΤΝ που μπορεί να παρεμβαίνει στα θεμελιώδη δικαιώματα των πολιτών (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)·
  • στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων (π.χ. εξακρίβωση της γνησιότητας ταξιδιωτικών εγγράφων)·
  • στην απονομή δικαιοσύνης και στις δημοκρατικές διαδικασίες (π.χ. εφαρμογή του νόμου σε συγκεκριμένα πραγματικά περιστατικά).

Τα συστήματα ΤΝ υψηλού κινδύνου θα υπόκεινται σε αυστηρές υποχρεώσεις προτού επιτραπεί η διάθεσή τους στην αγορά:

  • Κατάλληλα συστήματα εκτίμησης και μετριασμού των κινδύνων·
  • Υψηλή ποιότητα των συνόλων δεδομένων που τροφοδοτούν το σύστημα ώστε να ελαχιστοποιούνται οι κίνδυνοι και οι διακρίσεις·
  • Καταγραφή των δραστηριοτήτων με σκοπό τη διασφάλιση της ιχνηλασιμότητας των αποτελεσμάτων·
  • Λεπτομερής τεκμηρίωση που παρέχει όλες τις απαραίτητες πληροφορίες σχετικά με το σύστημα και τον σκοπό του ώστε οι αρχές να αξιολογούν τη συμμόρφωσή του·
  • Σαφείς και επαρκείς πληροφορίες για τον χρήστη/χρήστρια·
  • Κατάλληλα μέτρα ανθρώπινης εποπτείας για την ελαχιστοποίηση του κινδύνου·
  • Υψηλό επίπεδο ανθεκτικότητας, ασφάλειας και ακρίβειας.

Ειδικότερα, όλα τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης θεωρούνται υψηλού κινδύνου και υπόκεινται σε αυστηρές απαιτήσεις. Η χρήση τους σε πραγματικό χρόνο σε δημοσίως προσβάσιμους χώρους για σκοπούς επιβολής του νόμου καταρχήν απαγορεύεται. Οι ελάχιστες εξαιρέσεις σ' αυτόν τον κανόνα καθορίζονται και ρυθμίζονται αυστηρά (για παράδειγμα, όταν είναι απολύτως αναγκαίο για την αναζήτηση αγνοούμενου παιδιού, για την πρόληψη συγκεκριμένης και επικείμενης τρομοκρατικής απειλής ή για τον εντοπισμό, την επισήμανση, την ταυτοποίηση ή τη δίωξη δράστη ή υπόπτου σοβαρής αξιόποινης πράξης). Η χρήση αυτή υπόκειται στην έγκριση δικαστικής ή άλλης ανεξάρτητης αρχής και σε κατάλληλους περιορισμούς όσον αφορά το χρονικό διάστημα, τη γεωγραφική εμβέλεια και τις βάσεις δεδομένων όπου πραγματοποιείται αναζήτηση.

Περιορισμένος κίνδυνος, δηλαδή συστήματα ΤΝ που υπόκεινται σε συγκεκριμένες υποχρεώσεις διαφάνειας: όταν χρησιμοποιούν συστήματα ΤΝ όπως τα διαλογικά ρομπότ (chatbot), οι χρήστες θα πρέπει να γνωρίζουν ότι αλληλεπιδρούν με μηχάνημα, ώστε να μπορούν να λάβουν τεκμηριωμένη απόφαση να συνεχίσουν ή να διακόψουν την αλληλεπίδραση.

Ελάχιστος κίνδυνος: η νομική πρόταση επιτρέπει την ελεύθερη χρήση εφαρμογών όπως βιντεοπαιχνιδιών βασισμένων στην τεχνητή νοημοσύνη ή φίλτρων ανεπιθύμητης αλληλογραφίας. Η συντριπτική πλειονότητα των συστημάτων ΤΝ εμπίπτουν σε αυτή την κατηγορία. Το σχέδιο κανονισμού δεν παρεμβαίνει σε αυτή την κατηγορία, καθώς αυτά τα συστήματα ΤΝ συνεπάγονται μόνο ελάχιστο ή μηδενικό κίνδυνο για τα δικαιώματα και την ασφάλεια των πολιτών.

Όσον αφορά τη διακυβέρνηση, η Επιτροπή προτείνει οι εθνικές αρμόδιες αρχές εποπτείας της αγοράς να εποπτεύουν τους νέους κανόνες, ενώ η δημιουργία ενός Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης θα διευκολύνει την εφαρμογή τους και θα προωθήσει την ανάπτυξη προτύπων για την ΤΝ. Επιπλέον, προτείνονται εθελοντικοί κώδικες δεοντολογίας για την ΤΝ μη υψηλού κινδύνου, καθώς και ρυθμιστικά δοκιμαστήρια για τη διευκόλυνση της υπεύθυνης καινοτομίας.

Επόμενα στάδια

Το Ευρωπαϊκό Κοινοβούλιο και τα κράτη μέλη θα πρέπει να εγκρίνουν τις προτάσεις της Επιτροπής με αντικείμενο την ευρωπαϊκή προσέγγιση της τεχνητής νοημοσύνης και τα μηχανολογικά προϊόντα στο πλαίσιο της συνήθους νομοθετικής διαδικασίας. Μόλις εγκριθούν, οι κανονισμοί θα είναι άμεσα εφαρμόσιμοι σε ολόκληρη την ΕΕ. Παράλληλα, η Επιτροπή θα συνεχίσει να συνεργάζεται με τα κράτη μέλη για την υλοποίηση των δράσεων που εξαγγέλλονται στο συντονισμένο σχέδιο.