Πώς η ΕΕ σχεδιάζει να απαγορεύσει τις εφαρμογές «ξεγυμνώματος» χωρίς συναίνεση

Στις 7 Μαΐου, οι συννομοθέτες συμφώνησαν να απαγορεύσουν τις "εφαρμογές γυμνοποίησης" στο πλαίσιο του ψηφιακού Omnibus για την τεχνητή νοημοσύνη. Αυτά τα αμφιλεγόμενα εργαλεία μπορούν να δημιουργήσουν σεξουαλικές εικόνες ή βίντεο που δημιουργούνται με τεχνητή νοημοσύνη και τα οποία "γδύνουν" τα άτομα χωρίς συγκατάθεση, εγείροντας ανησυχίες σχετικά με την προστασία της ιδιωτικής ζωής και την ηθική χρήση της τεχνολογίας.

ΔΙΑΦΉΜΙΣΗ

ΔΙΑΦΉΜΙΣΗ

Η τεχνητή νοημοσύνη νέας γενιάς καθιστά τη δημιουργία συνθετικού περιεχομένου όλο και πιο προσιτή και ρεαλιστική. Περίπου 8 εκατομμύρια deepfakes βρίσκονταν στο διαδίκτυο το 2025, ενώ το 90% του διαδικτυακού περιεχομένου θα είναι τεχνητής νοημοσύνης μέχρι το 2026, σύμφωνα με την Υπηρεσία Ερευνών του Ευρωπαϊκού Κοινοβουλίου.

Μέχρι στιγμής, η νομοθεσία της ΕΕ έχει αντιμετωπίσει τα deepfakes έμμεσα, αντιμετωπίζοντάς τα ως παραβιάσεις της ιδιωτικής ζωής και της διαφάνειας, προκαλώντας εκκλήσεις για ισχυρότερη προστασία στο πλαίσιο μιας άμεσης απαγόρευσης σε ολόκληρη την ΕΕ.

"[...], θεωρήθηκε ότι υπήρχε ένα κενό στη νομοθεσία όσον αφορά την αντιμετώπισή τους [των deepfakes].Γι' αυτό το Omnibus θεωρήθηκε ως μια ευκαιρία να αντιμετωπιστεί αυτό", δήλωσε ο ευρωβουλευτής Michael McNamara από το Renew Europe στο Ευρωπαϊκό Κοινοβούλιο και συνεισηγητής της επιτροπής Πολιτικών Ελευθεριών, Δικαιοσύνης και Εσωτερικών Υποθέσεων.

Ενώ οι συννομοθέτες πρέπει ακόμη να δώσουν επίσημα το πράσινο φως για τη θέση τους, η Ευρώπη δίνει ήδη ένα σαφές μήνυμα: Οι "εφαρμογές γυμνοποίησης" αποτελούν μια σοβαρή μορφή σεξουαλικής ψηφιακής κακοποίησης που πρέπει να απαγορευτεί πριν εισέλθουν στην αγορά.

Τι είναι το «ξεγύμνωμα»;

Οι εφαρμογές "απογύμνωσης", όπως τα "undressers", "nudify tools" και "clothes removers", χειρίζονται συνηθισμένες φωτογραφίες για να δημιουργήσουν όλο και πιο ρεαλιστικές, σεξουαλικά σαφείς εικόνες ("deepfakes") χρησιμοποιώντας γενετική τεχνητή νοημοσύνη. Σύμφωνα με τις τρέχουσες εκτιμήσεις, έως και το 96% δημιουργήθηκαν χωρίς τη γνώση του υποκειμένου.

Αυτά τα εργαλεία χρησιμοποιούν μοντέλα βαθιάς μάθησης, αναγνώριση εικόνας και τεχνολογία ανακατασκευής σώματος για τη σύνθεση ρεαλιστικών εικόνων με βάση τον φωτισμό, τη στάση και τον τόνο του δέρματος της αρχικής φωτογραφίας. Ουσιαστικά εντοπίζουν ή συμπεραίνουν το σχήμα του υποκειμένου μέσα από τα ρούχα του και επινοούν ένα γυμνό σώμα που ταιριάζει.

Η τεχνολογία αυτή είναι προσβάσιμη μέσω πολλών εφαρμογών για κινητά - το App Store συνήθιζε να φιλοξενεί εφαρμογές όπως το "DeepNude" και το "ClothOff" - εξειδικευμένων ιστότοπων και αυτοματοποιημένων bots σε πλατφόρμες όπως το Telegram, που συχνά προωθούνται στην αγορά ως "τέχνη τεχνητής νοημοσύνης" ή ψυχαγωγία.

Το X του Elon Musk κατέστησε εξαιρετικά εύκολη την πρόσβαση σε αυτές τις εφαρμογές- μέχρι τις αρχές Ιανουαρίου 2026, το chatbot Grok δημιουργούσε περίπου 6.700 σεξουαλικοποιημένες εικόνες ανά ώρα, δεκάδες από τις οποίες αφορούσαν παιδιά.

Η Ευρωπαϊκή Επιτροπή ξεκίνησε επίσημη έρευνα σχετικά με τους νόμους περί ψηφιακής ασφάλειας του Grok και οι αντιδράσεις ανάγκασαν την X να εφαρμόσει περιορισμούς. Τώρα, η δημιουργία εικόνων πραγματικών ανθρώπων με "αποκαλυπτικά ρούχα" έχει μπλοκαριστεί σε ορισμένες χώρες. Η λειτουργία περιορίζεται στους συνδρομητές που πληρώνουν - αν και οι χρήστες του ιστότοπου εξακολουθούν να βρίσκουν τρόπους να ξεγελούν την τεχνητή νοημοσύνη χρησιμοποιώντας προτροπές.

Αυτά τα εργαλεία μετατρέπουν τη γενεσιουργό ΤΝ σε στοχευμένο μέσο παρενόχλησης και ψηφιακής κακοποίησης, αφαιρώντας τη σωματική αυτονομία του υποκειμένου. Το μη συναινετικό ρητό περιεχόμενο παραβιάζει άμεσα τα θεμελιώδη δικαιώματα ιδιωτικότητας και υπονομεύει τα ψηφιακά ηθικά πρότυπα. Τα προγράμματα αυτά κατηγοριοποιούνται όλο και περισσότερο ως αρπακτικές τεχνολογίες.

"Υπάρχουν ορισμένες πρακτικές που δεν είναι αστεία. Πρόκειται για ανθρώπους. Και σε αυτή τη μάχη, η αξιοπρέπεια θα πρέπει πάντα να είναι στην πλευρά του νικητή", δήλωσε ο Γερμανός ευρωβουλευτής των Πρασίνων Sergey Lagodinsky.

Αυτά τα εργαλεία προκαλούν ψυχολογική δυσφορία και ζημία στη φήμη των θυμάτων: μια μελέτη της UNICEF του 2026 σε 11 χώρες αποκάλυψε ότι τουλάχιστον 1,2 εκατομμύρια παιδιά είχαν χειραγωγήσει την εικόνα τους σε σεξουαλικά deepfakes το 2025. Μια μελέτη του ίδιου έτους σημείωσε ότι οι απειλές για την ανάρτηση μη συναινετικών, σεξουαλικά ρητών μέσων αυξάνουν τις πιθανότητες για σχέδια αυτοκτονίας, απόπειρες και αυτοτραυματισμούς.

Τα εργαλεία στοχεύουν επίσης δυσανάλογα τις γυναίκες και τα κορίτσια, τα οποία αντιπροσωπεύουν το 99% των θυμάτων deepfake. Τροφοδότησαν την αύξηση κατά 26,385% των παραγόμενων εικόνων σεξουαλικής κακοποίησης παιδιών (CSAM) από το 2024 και την αύξηση εγκλημάτων όπως ο εκβιασμός και ο εκβιασμός.

Πώς λειτουργεί η απαγόρευση

Η προσωρινή συμφωνία της 7ης Μαΐου στοχεύει σε όλους τους δημιουργούς τεχνητής νοημοσύνης, απαγορεύοντας κάθε σύστημα που έχει σχεδιαστεί ειδικά για τη δημιουργία τέτοιου είδους περιεχομένου (συμπεριλαμβανομένων εικόνων, βίντεο και ήχου).

Καθιστά τους προγραμματιστές μοντέλων ΤΝ μεγάλης κλίμακας άμεσα υπεύθυνους εάν τα συστήματά τους χρησιμοποιούνται για τη δημιουργία μη συναινετικών γυμνών εικόνων. Οι εταιρείες αυτές πρέπει πλέον να ενσωματώσουν μόνιμα μπλοκ ασφαλείας στο βασικό λογισμικό τους για να σταματήσουν τους χρήστες να το παράγουν.

Απαγορεύει επίσης τις ρεαλιστικές απεικονίσεις προσωπικών μελών και σεξουαλικά ρητών πράξεων.

Η απαγόρευση θα επηρεάσει τους παρόχους, δηλαδή κάθε εταιρεία που διαθέτει αυτά τα συστήματα στην αγορά της ΕΕ ή τα προσφέρει σε άτομα στο μπλοκ. επηρεάζει τους οργανισμούς που χρησιμοποιούν ή φιλοξενούν αυτά τα λογισμικά και επιτρέπουν μη συναινετικό ρητό περιεχόμενο, και, κυρίως, τους χρήστες που συλλαμβάνονται να εκμεταλλεύονται την ΤΝ για τη δημιουργία αυτού του είδους περιεχομένου.

Η ΕΕ μεταθέτει το κύριο βάρος της ευθύνης από τους μεμονωμένους τελικούς χρήστες στις εταιρείες που κατασκευάζουν τα μοντέλα. Όπως δήλωσε ο Lagodinsky, "δεν μπορούμε να επιβάλουμε την ανθρώπινη συμπεριφορά εδώ. Έτσι, πάμε ενάντια στην ίδια την τεχνολογία".

Οι πάροχοι είναι πλέον υποχρεωμένοι να αξιολογούν κάθε "προβλέψιμη κατάχρηση" της τεχνολογίας τους πριν αυτή φτάσει στο κοινό. Πρέπει να εφαρμόσουν μέτρα για να αποτρέψουν τους χρήστες από το να παρακάμπτουν τα φίλτρα με έξυπνες προτροπές ή μικρές αλλαγές στην εικόνα. Για να διασφαλιστεί η συμμόρφωση, το Γραφείο Τεχνητής Νοημοσύνης θα παρακολουθεί κατά πόσον αυτές οι διασφαλίσεις έχουν ενσωματωθεί στην κεντρική αρχιτεκτονική του μοντέλου.

"Οι πλατφόρμες θα περιορίζουν την πρόσβαση σε ορισμένες προτροπές και σε ορισμένες συμπεριφορές, όπως ακριβώς το ChatGPT ή το Grok λένε ήδη ότι ορισμένα αιτήματα δεν είναι επιτρεπτά", δήλωσε ο Lagodinsky.

"Οι νομοθετικές διαδικασίες είναι πολύ πιο αργές από την καινοτομία. Θα μπορέσουμε να το αντιμετωπίσουμε μόνο αν έχουμε έναν τρόπο ρύθμισης βάσει αρχών με βάση τον κίνδυνο. Γι' αυτό, για παράδειγμα, υπάρχουν δυνατότητες για την Επιτροπή να προσθέσει ορισμένες νέες τεχνολογίες ως επικίνδυνες τεχνολογίες στον νόμο για την τεχνητή νοημοσύνη", πρόσθεσε.

Εάν μια εταιρεία δεν εφαρμόσει αυτούς τους κανόνες, αντιμετωπίζει σοβαρές ενέργειες επιβολής σύμφωνα με το πλαίσιο του νόμου περί ΤΝ. Οι κυρώσεις για μη συμμόρφωση είναι βαριές, με πρόστιμα που φτάνουν έως και τα 35 εκατομμύρια ευρώ ή το 7% του συνολικού παγκόσμιου κύκλου εργασιών μιας εταιρείας.

Η συμφωνία εξουσιοδοτεί επίσης τις εθνικές αρχές να αποσύρουν εντελώς από την αγορά της ΕΕ μη ασφαλή προϊόντα τεχνητής νοημοσύνης. Έως τις 2 Δεκεμβρίου 2026, όλοι οι πάροχοι πρέπει να αποδείξουν ότι τα συστήματά τους πληρούν αυτά τα πρότυπα ασφαλείας, διαφορετικά θα αντιμετωπίσουν οικονομικές κυρώσεις. Αυτή η εποπτεία ισχύει τόσο για τις εταιρείες με έδρα την ΕΕ όσο και για τους διεθνείς προγραμματιστές που προσφέρουν τις υπηρεσίες τεχνητής νοημοσύνης τους στους κατοίκους της Ευρώπης.

Νομικά μέσα πριν από την απαγόρευση

"Δεν νομίζω ότι οι υπεύθυνοι χάραξης πολιτικής το υποτίμησαν απαραιτήτως [την εξέλιξη της τεχνητής νοημοσύνης]. Σίγουρα, υπήρχε μεγάλη έλλειψη ασφάλειας δικαίου μέχρι τώρα", δήλωσε ο McNamara.

Πριν από την απαγόρευση, η ΕΕ χαρακτήριζε κυρίως τα deepfakes και τη "γυμνοποίηση" ως ζητήματα περιεχομένου και παραβίασης της ιδιωτικής ζωής και της διαφάνειας. Ενώ κανένας νόμος δεν απαγόρευε ρητά αυτές τις δραστηριότητες, ένα μείγμα κανονισμών σχετικά με την προστασία δεδομένων, τα δικαιώματα εικόνας, την ιδιωτικότητα και την ευθύνη της πλατφόρμας τις ρύθμιζε ως ΤΝ γενικής χρήσης (GPAI) ή ως συστήματα περιορισμένου κινδύνου.

"Μία από τις βασικές διαφωνίες ήταν [...] αν πρέπει να ρυθμίζεται ή όχι [το περιεχόμενο που παράγεται από ΤΝ] με την τρέχουσα κυβέρνηση των Ηνωμένων Πολιτειών να υποστηρίζει μια προσέγγιση που δεν δίνει τα χέρια", δήλωσε ο McNamara στο Euronews.

Ο νόμος για τις ψηφιακές υπηρεσίες (DSA) αποτελεί βασική ρύθμιση για τις διαδικτυακές πλατφόρμες. Ωστόσο, χρησιμεύει ως αντιδραστικό εργαλείο, απαιτώντας από τις Πολύ Μεγάλες Διαδικτυακές Πλατφόρμες (VLOP) να αντιμετωπίσουν το παράνομο περιεχόμενο και την παραπληροφόρηση, αφαιρώντας τα deepfakes μόνο αφού τα αντιληφθούν. Επιβάλλει επίσης μηχανισμούς κοινοποίησης deepfake και άλλα μέτρα για τον μετριασμό των συστημικών κινδύνων που προκύπτουν από τις πλατφόρμες τους.

Οι ισχύοντες κανόνες του νόμου AI Act για τα deepfake δεν εμποδίζουν τη δημιουργία ή την κοινοποίηση εικόνων χωρίς συναίνεση. Απαιτούν μόνο από τους παρόχους να γνωστοποιούν τη χρήση ΤΝ στη δημιουργία επιγραμμικού περιεχομένου και από τους χρήστες να επισημαίνουν σαφώς το συνθετικό περιεχόμενο. Δεν προβλέπεται επίσης αποζημίωση για τα θύματα. Ο νόμος χειρίζεται τις μη συναινετικές εικόνες οικειότητας (NCII) και το υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) από άποψη διαφάνειας, επιτρέποντας σημαντική διακριτική ευχέρεια στον πάροχο σύμφωνα με τον Κώδικα Πρακτικής της ΓΓΠΙ.

Ο Γενικός Κανονισμός για την Προστασία Δεδομένων (ΓΚΠΔ) είναι ένας γενικός κανονισμός για την προστασία της ιδιωτικής ζωής, ο οποίος δεν είναι ειδικά προσαρμοσμένος στο συνθετικό περιεχόμενο. Αντιμετωπίζει την παράνομη επεξεργασία των δεδομένων των ατόμων χωρίς να απαγορεύει τα deepfakes στην υφιστάμενη μορφή τους ή να δημιουργεί διορθωτικά μέτρα με επίκεντρο το θύμα. Οι μη συναινετικές προσωπικές εικόνες οδηγούν σε ταπείνωση και βλάβη της φήμης, οι οποίες απαιτούν ένδικα μέσα πέραν της προστασίας των δεδομένων, συμπεριλαμβανομένης της παρενόχλησης, της δυσφήμισης και του ποινικού δικαίου.

Η οδηγία 2024/1385 της ΕΕ σχετικά με τη βία κατά των γυναικών στο διαδίκτυο και εκτός σύνδεσης ποινικοποιεί την έμφυλη βία που διευκολύνεται από την τεχνολογία (TFGBV). Σε αυτά περιλαμβάνονται ψηφιακά εργαλεία για την παρακολούθηση, την παρενόχληση και τη φίμωση γυναικών και κοριτσιών. Ενώ εγγυάται νομική προστασία κατά του σεξουαλικού περιεχομένου deepfake, το κείμενο δεν στοχεύει συγκεκριμένα στις εφαρμογές γυμνισμού.