Διαφήμιση

Έκθεση UNESCO–UCL: ΤΝ κολακεύει τον χρήστη, αναξιόπιστη για χάραξη κλιματικής πολιτικής

ΑΡΧΕΙΟ - Η εφαρμογή ChatGPT εμφανίζεται σε iPhone στη Νέα Υόρκη, 18 Μαΐου 2023.
ΑΡΧΕΙΟ - Η εφαρμογή ChatGPT εμφανίζεται σε ένα iPhone στη Νέα Υόρκη, 18 Μαΐου 2023. -  Πνευματικά Δικαιώματα  AP Photo/Richard Drew, File
Πνευματικά Δικαιώματα AP Photo/Richard Drew, File
Από Angela Symons
Δημοσιεύθηκε
Μοιραστείτε το Σχόλια Ακολουθήστε τo Euronews στο Google
Μοιραστείτε το Close Button

Τα μοντέλα τεχνητής νοημοσύνης απαντούν σωστά σε περίπου 90% των ερωτήσεων για το κλίμα στα αγγλικά, αλλά υποχωρούν γρήγορα στην αντίσταση, σύμφωνα με έκθεση στο COP31.

Ενσωματωμένη στα chatbot Τεχνητής Νοημοσύνης (ΤΝ) είναι η επιθυμία να ευχαριστούν τους χρήστες, καθώς έχουν σχεδιαστεί ώστε να τους κρατούν σε συνομιλία όσο το δυνατόν περισσότερο.

ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ

Συχνά αυτό σημαίνει ότι προβλέπουν και προσαρμόζουν όσα θέλει κάποιος να ακούσει, ακόμη κι αν χρειάζεται να «λυγίσουν» τα γεγονότα.

Αν και μπορεί να είναι ακίνδυνο για ορισμένες χρήσεις, και να βοηθά ακόμη και στην αντιμετώπιση της αυτοαμφισβήτησης, θα μπορούσε να γίνει πολύ πιο επιζήμιο αν η επιρροή του περάσει σε τομείς υψηλού ρίσκου, όπως η κυβερνητική πολιτική για το κλίμα.

Μπορούν τα chatbot ΤΝ να εξηγούν καλά την επιστήμη του κλίματος, αλλά, σύμφωνα με νέα έκθεση της UNESCO και του Πανεπιστημιακού Κολεγίου Λονδίνου (University College London - UCL), εγκαταλείπουν γρήγορα τα δεδομένα όταν οι χρήστες τα αμφισβητούν. Η έκθεση παρουσιάστηκε στη σύνοδο για το κλίμα COP31 στην Αττάλεια, Τουρκία.

Οι ερευνητές διαπίστωσαν ότι τα μοντέλα ΤΝ απάντησαν σωστά περίπου στο 90% των ουδέτερων ερωτήσεων για το κλίμα. Όταν όμως οι χρήστες αμφισβήτησαν τις απαντήσεις ή πρόβαλαν επινοημένες δηλώσεις που έμοιαζαν εύλογες, τα μοντέλα υποχωρούσαν γρήγορα.

Στις 8 από τις 10 περιπτώσεις, άλλαξαν πορεία με το πρώτο σημάδι ήπιας διαφωνίας, φτάνοντας ακόμη και να επιβεβαιώνουν ψευδείς ισχυρισμούς, όπως ότι CO2 δεν είναι ο βασικός παράγοντας της κλιματικής αλλαγής.

«Κολακευτικά εκ φύσεως»: Ένα ελάττωμα σχεδιασμού που μπορεί να διαστρεβλώσει την κλιματική πολιτική

Η έκθεση αναφέρει ότι η κολακευτική συμπεριφορά ενσωματώνεται στη φάση της εκπαίδευσης. Τα μοντέλα επιβραβεύονται όταν δίνουν ευγενικές, μη συγκρουσιακές και επιβεβαιωτικές απαντήσεις, επειδή οι άνθρωποι τις προτιμούν.

«Η ΤΝ έχει εξαιρετικές δυνατότητες να κάνει την περίπλοκη επιστήμη του κλίματος προσιτή σε όλους», σημειώνει η επικεφαλής συγγραφέας της έκθεσης από την UNESCO, Λεόνα Βερνταδέρο. Όμως, όπως λέει, «τα μοντέλα έχουν ένα ελάττωμα σχεδιασμού, είναι ενθαρρυμένα να συμφωνούν με τον χρήστη τους».

Η επικεφαλής συγγραφέας Δρ Μαρία Πέρεθ-Ορτίθ, από το Πανεπιστημιακό Κολέγιο Λονδίνου, προσθέτει ότι η ευχέρεια των μοντέλων ΤΝ στο υπάρχον γνωστικό υλικό μπορεί να δημιουργήσει «μια ψευδή αίσθηση των δυνατοτήτων τους».

Παρά την εντυπωσιακή τους ικανότητα να ανακαλούν γεγονότα, τα μοντέλα κρίθηκαν ένα αναξιόπιστο εργαλείο για τη διαμόρφωση στέρεων κλιματικών πολιτικών.

Όταν τους δινόταν ένα νέο στοιχείο και τους ζητούσαν να κρίνουν αν υποστηρίζει ή αν αντιφάσκει με την αποδεκτή επιστήμη του κλίματος, ακόμη και τα πιο ισχυρά μοντέλα ήταν κατά μέσο όρο σωστά μόνο στο 75%.

Ακόμη χειρότερη ήταν η επίδοσή τους όταν κλήθηκαν να αξιολογήσουν πόσο καλά λειτουργούν συνδυαστικά οι πολιτικές, ένα κρίσιμο στοιχείο του σχεδιασμού αποτελεσματικών στρατηγικών για το κλίμα. Τα μοντέλα πέτυχαν κατά μέσο όρο ακρίβεια μόλις 33,8%, ελάχιστα πάνω από το 33,3% που θα προέκυπτε από τυχαίες απαντήσεις.

Η έκθεση, συνεπώς, προειδοποιεί τους υπεύθυνους χάραξης πολιτικής και τους ερευνητές να μην χρησιμοποιούν μοντέλα ΤΝ για την ανάπτυξη κλιματικής πολιτικής.

Η ακρίβεια της ΤΝ μειώνεται σε ορισμένες γλώσσες

Μεγάλες ήταν επίσης οι διαφοροποιήσεις ανά γλώσσα. Τα μοντέλα απάντησαν σωστά στο 88,6% των ερωτήσεων στα αγγλικά και είχαν αντίστοιχη επίδοση στα ισπανικά, τα γαλλικά και τα πορτογαλικά.

Η ακρίβεια έπεσε στο 83,6% για τα χίντι και τα βεγκάλι, στο 81,4% για τα ουρντού και στο 78,3% για τα σουαχίλι. Αυτό συμβαίνει επειδή, όπως αναφέρει η έκθεση, τα πολυγλωσσικά μοντέλα δεν συλλογίζονται πρώτα και στη συνέχεια μεταφράζουν. Οι απαντήσεις τους αντανακλούν την ποσότητα και την ποιότητα των δεδομένων εκπαίδευσης σε κάθε γλώσσα.

Οι συγγραφείς επισημαίνουν ότι οι ομιλητές των γλωσσών με χαμηλότερη βαθμολογία ζουν σε περιοχές που πλήττονται δυσανάλογα από την κλιματική αλλαγή.

Η παραπληροφόρηση για το κλίμα γίνεται πιο εξελιγμένη

Η έκθεση ανατέθηκε στο πλαίσιο της συμβολής της UNESCO στην Παγκόσμια Πρωτοβουλία για την Ακεραιότητα της Πληροφόρησης σχετικά με την Κλιματική Αλλαγή, που εγκαινιάστηκε μαζί με τον ΟΗΕ και τη Βραζιλία τον Νοέμβριο του 2024.

Η UNESCO αναφέρει ότι η παραπληροφόρηση για το κλίμα γίνεται ολοένα πιο εξελιγμένη. Αντί να αρνούνται ότι η κλιματική αλλαγή είναι πραγματική, όσοι επιδιώκουν να υπονομεύσουν τη δράση για το κλίμα όλο και συχνότερα υποστηρίζουν ότι δεν προκαλείται από τον άνθρωπο, ότι η τεχνολογία από μόνη της θα τη λύσει ή ότι είναι πλέον πολύ αργά ή υπερβολικά ακριβό να ληφθούν μέτρα.

Οι ερευνητές δοκίμασαν έως και 33 από τα πιο προηγμένα μοντέλα σε 9 σύνολα δεδομένων, σε 13 γλώσσες και 656 ερωτήσεις κλιματικής πολιτικής, τις οποίες συνέκριναν με τα αποτελέσματα του En-ROADS, ενός εργαλείου προσομοίωσης βασισμένου στην επιστήμη.

Μετάβαση στις συντομεύσεις προσβασιμότητας
Μοιραστείτε το Σχόλια Ακολουθήστε τo Euronews στο Google

Σχετικές ειδήσεις

Η COP31 αποφεύγει ξανά την έξοδο από τα ορυκτά καύσιμα, η Φινλανδία χαράζει διαφορετική πορεία

COP31: Το Ουζμπεκιστάν ζητά έγκαιρη προειδοποίηση και κλιματική χρηματοδότηση στην Κεντρική Ασία

Καταφύγιο χιμπατζήδων στη Φλόριντα τροφοδοτεί τα ζώα με drones μετά τις πλημμύρες