ΕΕ AI Act: από αυτή την εβδομάδα απαιτείται σήμανση για deepfake και περιεχόμενο ΑΙ, ενώ ειδικοί προειδοποιούν ότι τεχνικά κενά θα δυσκολέψουν την εφαρμογή.
Από αυτή την Κυριακή, οι εταιρείες τεχνητής νοημοσύνης θα υπόκεινται σε νέες υποχρεώσεις βάσει του νόμου για την τεχνητή νοημοσύνη της ΕΕ (AI Act), που τις υποχρεώνει να καθιστούν τα deepfake και άλλο περιεχόμενο που παράγεται από ΤΝ σαφώς αναγνωρίσιμο ως τεχνητό.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Ωστόσο, τεχνικές δυσκολίες δημιουργούν αμφιβολίες για το πόσο αποτελεσματικοί θα είναι οι κανόνες.
Πριν από δύο χρόνια, η ΕΕ υιοθέτησε ένα εκτενές πλαίσιο κανόνων για τη ρύθμιση της τεχνητής νοημοσύνης και δημιούργησε ειδικό Γραφείο ΤΝ, το AI Office, για να εποπτεύει την εφαρμογή αυτής της εμβληματικής νομοθεσίας.
Μεταξύ των πολλών διατάξεών του, ο νόμος για την ΤΝ προβλέπει τα πρώτα παγκοσμίως καθεστώτα διαφάνειας για το συνθετικό περιεχόμενο, υποχρεώνοντας τους παρόχους γενετικών συστημάτων ΤΝ όπως το Claude της Anthropic και το ChatGPT της OpenAI να διασφαλίζουν ότι το τεχνητά παραγόμενο ή αλλοιωμένο περιεχόμενο μπορεί να εντοπίζεται ως τέτοιο.
Οι κανόνες είναι αυστηρότεροι για τα deepfake: ρεαλιστικές εικόνες, ήχους ή βίντεο που δημιουργούνται ή τροποποιούνται με ΤΝ και μιμούνται την εμφάνιση, τη φωνή ή τις κινήσεις ενός πραγματικού προσώπου με τρόπο που μπορεί να οδηγήσει τους ανθρώπους να πιστέψουν ότι είπε ή έκανε κάτι που ποτέ δεν συνέβη.
Από τη σάτιρα στη χειραγώγηση
Όπως κάθε τεχνολογία, η ΤΝ μπορεί να χρησιμοποιηθεί τόσο για δημιουργικούς όσο και για επιβλαβείς σκοπούς.
Οι Βρυξέλλες αναγνωρίζουν ότι δεν είναι όλο το συνθετικό περιεχόμενο παραπλανητικό: υλικό που δημιουργείται για σαφώς καλλιτεχνικούς, δημιουργικούς, σατιρικούς ή μυθοπλαστικούς σκοπούς γενικά εξαιρείται από τις απαιτήσεις γνωστοποίησης για τα deepfake.
Χαρακτηριστικό παράδειγμα ήταν το 2023, όταν μια εικόνα του Πάπα Φραγκίσκου με ένα κομψό λευκό φουσκωτό μπουφάν, δημιουργημένη από ΤΝ, έγινε viral σε όλον τον κόσμο. Η εικόνα ήταν ψεύτικη, αλλά σε μεγάλο βαθμό έγινε κατανοητό ότι επρόκειτο για αστείο.
Η ίδια τεχνολογία, όμως, μπορεί να χρησιμοποιηθεί για πολύ πιο επιζήμιους σκοπούς.
Το 2024, η παγκόσμια ποπ σταρ Taylor Swift έγινε στόχος ενός κύματος από ρητά σεξουαλικές εικόνες, δημιουργημένες με ΤΝ, που διακινήθηκαν στο διαδίκτυο χωρίς τη συναίνεσή της, αναζωπυρώνοντας τη συζήτηση για τους κινδύνους του συνθετικού περιεχομένου.
Τα deepfake έχουν επίσης αναδειχθεί σε εργαλείο πολιτικής χειραγώγησης.
Το 2022, λίγο μετά την έναρξη της πλήρους κλίμακας εισβολής της Ρωσίας στην Ουκρανία, εμφανίστηκε ένα ψεύτικο βίντεο που έδειχνε τον Ουκρανό πρόεδρο Βολοντίμιρ Ζελένσκι να καλεί τους στρατιώτες να παραδοθούν. Το βίντεο αποδομήθηκε γρήγορα, αλλά έδειξε πώς το συνθετικό περιεχόμενο μπορεί να μετατραπεί σε όπλο σε περίοδο πολέμου.
Ο φόβος είναι ότι το ολοένα πιο ρεαλιστικό περιεχόμενο που παράγεται από ΤΝ, ενισχυμένο από τις πλατφόρμες κοινωνικής δικτύωσης, μπορεί να δυσκολέψει τους πολίτες να ξεχωρίσουν την πραγματική πληροφορία από το κατασκευασμένο υλικό.
Ρύθμιση των deepfake
Για να αντιμετωπίσει την πρόκληση, η Ευρωπαϊκή Επιτροπή ανέπτυξε έναν εθελοντικό κώδικα πρακτικής ως πλαίσιο που υποδεικνύει πώς οι εταιρείες πρέπει να γνωστοποιούν την τεχνητή προέλευση του συνθετικού περιεχομένου, μέσω σημάνσεων που αναγνωρίζονται από τις μηχανές, καθώς και ορατών ετικετών για τα deepfake.
Η ιδέα είναι απλή: οι άνθρωποι πρέπει να ξέρουν πότε βλέπουν περιεχόμενο που έχει δημιουργηθεί ή αλλοιωθεί από ΤΝ. Γι’ αυτό οι κανόνες ισχύουν τόσο για τις εταιρείες που αναπτύσσουν την τεχνολογία όσο και για όσους χρησιμοποιούν την ΤΝ επαγγελματικά, ενώ οι προσωπικές χρήσεις εξαιρούνται.
Ο κώδικας πρακτικής δεν καλύπτει μόνο το σκέλος της σήμανσης, αλλά και τον σχετικό μηχανισμό ανίχνευσης, που απαιτεί συνεργασία όλων των εμπλεκόμενων φορέων: εταιρειών ΤΝ, πλατφορμών κοινωνικής δικτύωσης, οργανώσεων της κοινωνίας των πολιτών και ομάδων επαλήθευσης γεγονότων.
Το δυσκολότερο ερώτημα είναι αν η τεχνολογία μπορεί πράγματι να ανταποκριθεί αξιόπιστα σε αυτή την υπόσχεση.
Μία ρύθμιση, πολλά εμπόδια
Η πρώτη πρόκληση είναι γεωγραφική. Η ΕΕ μπορεί να ρυθμίζει εταιρείες που δραστηριοποιούνται ή στοχεύουν στην ευρωπαϊκή αγορά, αλλά το διαδικτυακό περιεχόμενο δεν σταματά στα σύνορα. Ένα deepfake που δημιουργείται εκτός Ευρώπης μπορεί μέσα σε λίγα λεπτά να φτάσει σε εκατομμύρια Ευρωπαίους χρήστες.
Η δεύτερη πρόκληση αφορά την ωριμότητα της τεχνολογίας. Μεγάλες εταιρείες ΤΝ, όπως η OpenAI και η Google, έχουν γενικά στηρίξει τις απαιτήσεις διαφάνειας, υπογράφοντας τον κώδικα πρακτικής της Επιτροπής. Παράλληλα, όμως, προειδοποιούν ότι οι τεχνολογίες σήμανσης και ανίχνευσης παραμένουν κινούμενος στόχος.
Προς το παρόν δεν υπάρχει μία ενιαία λύση για το σύνολο του κλάδου. Οι εταιρείες δοκιμάζουν διαφορετικές προσεγγίσεις, όπως υδατογραφήματα, μεταδεδομένα και συστήματα ιχνηλασιμότητας του περιεχομένου, που δεν είναι πάντα συμβατές μεταξύ τους ούτε «συνομιλούν» η μία με την άλλη.
Η τρίτη πρόκληση είναι ότι τα ψηφιακά ίχνη είναι εύθραυστα. Οι ειδικοί προειδοποιούν ότι τα υδατογραφήματα μπορούν να αφαιρεθούν, να αλλοιωθούν ή να χαθούν όταν το περιεχόμενο επεξεργάζεται, συμπιέζεται ή μοιράζεται μεταξύ πλατφορμών. Η πλήρης ιχνηλάτηση της ιστορίας μιας εικόνας ή ενός βίντεο που δημιουργήθηκε με ΤΝ, μέσα από πολλαπλές επεξεργασίες, μπορεί να είναι εξαιρετικά δύσκολη.
Λόγω αυτών των περιορισμών, οι ερευνητές υποστηρίζουν ότι καμία μεμονωμένη τεχνολογία δεν θα αρκεί. Οι εταιρείες πιθανότατα θα χρειαστεί να υιοθετήσουν μια πολυεπίπεδη προσέγγιση που να συνδυάζει αρκετές μεθόδους.
«Ο συνδυασμός λύσεων είναι πιο ισχυρός από κάθε μεμονωμένο μέτρο. Επομένως, μια βέλτιστη πρακτική είναι η εφαρμογή πολλαπλών επιπέδων σήμανσης και ανίχνευσης για περιεχόμενο που παράγεται από ΤΝ», καταλήγει η τεχνική μελέτη της Ευρωπαϊκής Επιτροπής για το θέμα.
Προλαβαίνοντας τις εξελίξεις
Η ΕΕ έχει αναλάβει πρωταγωνιστικό ρόλο στην αντιμετώπιση μιας από τις καθοριστικές προκλήσεις της εποχής της ΤΝ: ενός κόσμου όπου το συνθετικό περιεχόμενο είναι όλο και πιο δύσκολο να ξεχωρίσει κανείς από την πραγματικότητα.
Το εάν, όμως, οι Βρυξέλλες θα καταφέρουν να συμβαδίσουν με μια τεχνολογία που εξελίσσεται με εντυπωσιακή ταχύτητα θα καθορίσει αν οι κανόνες διαφάνειας του νόμου για την ΤΝ θα εξελιχθούν σε αποτελεσματική δικλίδα ασφαλείας ή απλώς σε μια ετικέτα κολλημένη πάνω σε ένα πρόβλημα που διαρκώς τρέχει πιο γρήγορα από αυτές.