Αν και οι γυναίκες υπερεκπροσωπούνταν ως γιατροί σε χιλιάδες ιστορίες που δημιουργήθηκαν με τεχνητή νοημοσύνη, εξακολουθούν να υπόκεινται σε στερεότυπα φύλου, σύμφωνα με την ανάλυση.
ΔΙΑΦΉΜΙΣΗΣύμφωνα με ορισμένα από τα κορυφαία εργαλεία τεχνητής νοημοσύνης (AI) στον κόσμο, σχεδόν όλοι οι νοσηλευτές είναι γυναίκες, αλλά είναι λιγότερο πιθανό να είναι αρχίατροι, σύμφωνα με μια νέα μεγάλη μελέτη, η οποία ρίχνει φως στον τρόπο με τον οποίο οι αλγόριθμοι διαιωνίζουν τα στερεότυπα των φύλων στην ιατρική.
Ερευνητές από το Πανεπιστήμιο Flinders της Αυστραλίας έτρεξαν σχεδόν 50.000 προτροπές στο ChatGPT της OpenAI, το Gemini της Google και το Llama της Meta, ζητώντας τους να δώσουν ιστορίες για γιατρούς, χειρουργούς και νοσηλευτές.
Στη συνέχεια οι ερευνητές τροφοδότησαν τα μοντέλα με πληροφορίες σχετικά με την επαγγελματική αρχαιότητα των εργαζομένων στον τομέα της υγείας και την προσωπικότητά τους - για παράδειγμα, πόσο ευχάριστοι, νευρωτικοί, εξωστρεφείς, ευσυνείδητοι και ανοιχτοί ήταν - και τους ζήτησαν να σκεφτούν περισσότερες ιστορίες.
Τα μοντέλα αναγνώρισαν το 98% των νοσηλευτών ως γυναίκες, ανεξάρτητα από την προσωπικότητα ή την αρχαιότητά τους, σύμφωνα με τη μελέτη, η οποία δημοσιεύθηκε στο περιοδικό JAMA Network Open.**
Αξίζει να σημειωθεί, ωστόσο, ότι υπερεκπροσώπησαν επίσης τις γυναίκες στις ιστορίες για χειρουργούς και άλλους γιατρούς. Ανάλογα με το μοντέλο, οι γυναίκες αποτελούσαν το 50% έως 84% των γιατρών και το 36% έως 80% των χειρουργών στις ιστορίες.
Αυτό θα μπορούσε να είναι το αποτέλεσμα των εταιρειών όπως η OpenAI που κάνουν διορθώσεις στους αλγορίθμους τους, αφού δέχθηκαν πυρά για την αναπαραγωγή κοινωνικών προκαταλήψεων και άλλου προσβλητικού περιεχομένου στις απεικονίσεις τους. Επειδή αυτά τα εργαλεία έχουν εκπαιδευτεί σε εκτεταμένα δεδομένα από όλο το διαδίκτυο, αυτά τα χαρακτηριστικά είναι ενσωματωμένα.
Τα εργαλεία τεχνητής νοημοσύνης διαιωνίζουν τα "στερεότυπα των φύλων";
"Έχει γίνει προσπάθεια να διορθωθούν [οι αλγοριθμικές προκαταλήψεις] και είναι ενδιαφέρον να δούμε ότι [οι κατανομές των φύλων] μπορεί επίσης να έχουν υπερδιορθωθεί", δήλωσε η Δρ Sarah Saxena, αναισθησιολόγος στο Ελεύθερο Πανεπιστήμιο των Βρυξελλών (ULB), η οποία ερευνά τις προκαταλήψεις στις εικόνες γιατρών που δημιουργούνται με τεχνητή νοημοσύνη, αλλά δεν συμμετείχε στη νέα μελέτη.
Ωστόσο, επεσήμανε ότι η γενεσιουργός τεχνητή νοημοσύνη εξακολουθεί να διαιωνίζει τα "έμφυλα στερεότυπα" στην ιατρική.
Όταν οι προτροπές των ερευνητών περιλάμβαναν περιγραφές των εργαζομένων στον τομέα της υγείας, αναδύθηκε ένα χάσμα μεταξύ των δύο φύλων. Εάν ο γιατρός ήταν ευχάριστος, ανοιχτός ή ευσυνείδητος, τα μοντέλα ήταν πιο πιθανό να τον τοποθετήσουν ως γυναίκα.
Και αν οι γιατροί κατείχαν κατώτερες θέσεις - για παράδειγμα, αν η προτροπή ανέφερε ότι ήταν άπειροι - τα μοντέλα ήταν πιο πιθανό να τους περιγράψουν ως γυναίκες από ό,τι αν η προτροπή σηματοδοτούσε ότι ήταν ανώτεροι ή πιο έμπειροι.
Τα μοντέλα ήταν επίσης πιο πιθανό να αναγνωρίσουν τους γιατρούς ως άνδρες εάν περιγράφονταν ως αλαζόνες, αγενείς, ανίκανοι, ανίκανοι, αναβλητικοί, θυμωμένοι, χωρίς φαντασία ή χωρίς περιέργεια.
Τα αποτελέσματα δείχνουν ότι τα εργαλεία δημιουργικής τεχνητής νοημοσύνης "φάνηκε να διαιωνίζουν μακροχρόνια στερεότυπα σχετικά με τις αναμενόμενες συμπεριφορές των φύλων (π.χ. η γυναικεία συμπεριφορά που θεωρείται θυμωμένη ή αλαζονική θεωρείται ακατάλληλη) και την καταλληλότητα των φύλων για συγκεκριμένους ρόλους (π.χ. οι ανώτεροι γιατροί και οι χειρουργοί είναι άνδρες)", ανέφεραν οι συγγραφείς της μελέτης.
Τα ευρήματα έρχονται να προστεθούν σε έναν αυξανόμενο όγκο ερευνών σχετικά με τον τρόπο με τον οποίο οι αλγόριθμοι αναπαράγουν τις κοινωνικές προκαταλήψεις στον ιατρικό τομέα.
Σε ένα πείραμα, η ομάδα του Saxena ζήτησε από το ChatGPT και το Midjourney - ένα κορυφαίο εργαλείο δημιουργικής τεχνητής νοημοσύνης για εικόνες - να δημιουργήσουν εικόνες αναισθησιολόγων. Οι γυναίκες απεικονίστηκαν ως παιδιατρικοί ή μαιευτικοί αναισθησιολόγοι, ενώ οι άνδρες σε καρδιολογικούς ρόλους.
Όταν οι ερευνητές ζήτησαν εικόνες του επικεφαλής του αναισθησιολογικού τμήματος, σχεδόν όλα τα αποτελέσματα ήταν άνδρες, δήλωσε ο Saxena στο Euronews Health.
ΔΙΑΦΉΜΙΣΗ"Υπάρχει ακόμα αυτή η γυάλινη οροφή που τώρα ενισχύεται από αυτό το δημόσια διαθέσιμο εργαλείο", δήλωσε ο Saxena.
"Υπάρχει αυτό το ρητό, "δεν μπορείς να είσαι αυτό που δεν μπορείς να δεις", και αυτό είναι πραγματικά σημαντικό όταν πρόκειται για τη δημιουργική τεχνητή νοημοσύνη".
Οι προκαταλήψεις δεν αποτελούν πρόβλημα μόνο για τις γυναίκες και άλλες υποεκπροσωπούμενες ομάδες που ασχολούνται με την ιατρική.
Δεδομένου ότι ο κλάδος της υγειονομικής περίθαλψης πειραματίζεται με μοντέλα τεχνητής νοημοσύνης για να μειώσει τη γραφειοκρατία των γιατρών και ακόμη και να βοηθήσει στη φροντίδα, οι αλγοριθμικές προκαταλήψεις θα μπορούσαν να έχουν σοβαρές επιπτώσεις για τους ασθενείς.
ΔΙΑΦΉΜΙΣΗΓια παράδειγμα, μια άλλη μελέτη που δημοσιεύτηκε νωρίτερα φέτος διαπίστωσε ότι το ChatGPT τείνει να δημιουργεί στερεότυπα στις ιατρικές διαγνώσεις για τους ασθενείς με βάση τη φυλή και το φύλο τους, ενώ μια ανάλυση του 2023 προειδοποίησε ότι αυτά τα μοντέλα θα μπορούσαν να διαιωνίσουν "διαψευσμένες, ρατσιστικές ιδέες" στην ιατρική περίθαλψη.
"Αυτό πρέπει να αντιμετωπιστεί προτού μπορέσουμε πραγματικά να το ενσωματώσουμε και να το προσφέρουμε ευρέως σε όλους, ώστε να είναι όσο το δυνατόν πιο περιεκτικό", δήλωσε ο Saxena.