Τα chatbot τεχνητής νοημοσύνης λαμβάνουν ταχύτερες, πιο βέβαιες, αλλά λιγότερο λεπτές αποφάσεις από τους ανθρώπινους γιατρούς όταν επιλέγουν ποιος θα λάβει σωτήριο μόσχευμα νεφρού.
Θα δεχόσασταν μεταμόσχευση αν την απόφαση την έπαιρνε η τεχνητή νοημοσύνη; Νέα μελέτη αναδεικνύει διαφορές στον τρόπο λήψης αποφάσεων και ιεράρχησης προτεραιοτήτων ανάμεσα στα γλωσσικά μοντέλα τεχνητής νοημοσύνης και τους ανθρώπινους γιατρούς.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Σύμφωνα με νέα έρευνα, τα μοντέλα τεχνητής νοημοσύνης εμφανίζουν υπερβολική αυτοπεποίθηση, αξιολογούν διαφορετικά τους επιμέρους παράγοντες και απλουστεύουν υπερβολικά σύνθετες αποφάσεις όταν καλούνται να επιλέξουν ποιος ασθενής θα λάβει μεταμόσχευση.
Για τη μελέτη, ερευνητές από το Penn State University στις ΗΠΑ υπέβαλαν σε μεγάλα γλωσσικά μοντέλα (Large Language Models – LLMs) υποθετικά σενάρια, βασισμένα σε υπάρχοντα σύνολα δεδομένων από δημοσιευμένες έρευνες για την κατανομή νεφρών, στις οποίες πραγματικοί συμμετέχοντες είχαν ήδη κληθεί να κάνουν τις ίδιες επιλογές.
Κάθε σενάριο αφορούσε δύο ασθενείς, τον Ασθενή A και τον Ασθενή B, που ήταν και οι δύο κατάλληλοι για έναν διαθέσιμο νεφρό και περιγράφονταν με βάση την ηλικία, την κατάσταση της υγείας τους και τις συνήθειες κατανάλωσης αλκοόλ. Ο εκάστοτε αποφασίζων έπρεπε στη συνέχεια να επιλέξει ποιος από τους δύο θα λάβει το μόσχευμα.
«Διεξαγάγαμε αυτές τις συγκρίσεις με διάφορους τρόπους», είπε ο Hosseini. «Άλλοτε απομονώναμε μόνο ένα χαρακτηριστικό κάθε φορά, άλλοτε συνδυάζαμε περισσότερα για να δούμε πώς η τεχνητή νοημοσύνη ζυγίζει ανταγωνιστικούς παράγοντες, και άλλοτε προσθέταμε την επιλογή \"ρίξε κέρμα\" για να μετρήσουμε την αδυναμία λήψης απόφασης, έναν βασικό παράγοντα που υπάρχει στην ανθρώπινη ηθική κρίση.»
Οι ανθρώπινοι συμμετέχοντες τείνουν να δίνουν μεγαλύτερη βαρύτητα στην ηλικία, προτιμώντας τους νεότερους έναντι των μεγαλύτερων ασθενών, ενώ πολλά μοντέλα προέκριναν αντίθετα τη χαμηλότερη κατανάλωση αλκοόλ. Οι ανθρώπινες αποφάσεις λαμβάνουν υπόψη πολλούς παράγοντες και είναι πιο ευαίσθητες στο εκάστοτε πλαίσιο σε σχέση με εκείνες των LLMs, τα οποία συχνά εστιάζουν σε μία μόνο ιδιότητα.
«Κατ’ αρχάς, τα chatbot τεχνητής νοημοσύνης συχνά αποκλίνουν από τις ανθρώπινες αξίες ως προς τον τρόπο που σταθμίζουν τα χαρακτηριστικά ενός ασθενούς», δήλωσε ο Hadi Hosseini, επικεφαλής της μελέτης στο Penn State University. «Εμμένουν σε έναν μόνο παράγοντα, όπως οι συνήθειες στο ποτό, αντί να εξισορροπούν πολλαπλές παραμέτρους όπως κάνει ο άνθρωπος.»
Οι ερευνητές διαπίστωσαν επίσης ότι η τεχνητή νοημοσύνη δεν φαίνεται να δυσκολεύεται από την αμφιταλάντευση. Ενώ οι άνθρωποι αναγνωρίζουν ότι δεν υπάρχει πάντα μία αντικειμενικά σωστή απάντηση και ότι οι αποφάσεις μπορεί να βασίζονται σε λεπτές ανθρώπινες ηθικές κρίσεις, τα συστήματα καταλήγουν σε μία επιλογή σχεδόν χωρίς δισταγμό.
«Όταν κατανέμουμε κάτι σπάνιο, είτε πρόκειται για έναν νεφρό, μια δουλειά ή πρόσβαση σε κάποιο άλλο αγαθό, δεν υπάρχει πάντοτε μία αντικειμενικά σωστή απάντηση», είπε ο John Dickerson, διευθύνων σύμβουλος στη Mozilla.ai, ο οποίος συνεργάστηκε στη μελέτη.
«Οι άνθρωποι αναγνωρίζουν αυτήν την ασάφεια και, μέσα από ανοιχτή συζήτηση, την ενσωματώνουν στη διαδικασία κατανομής. Τα μοντέλα τεχνητής νοημοσύνης συχνά δεν το κάνουν.»
Η τεχνητή νοημοσύνη και οι ηθικές αποφάσεις
Οι πρόσφατες αλληλεπιδράσεις με συστήματα τεχνητής νοημοσύνης απαιτούν ολοένα και περισσότερο να ξεπερνούν την απλή παράθεση γεγονότων και να προχωρούν σε αξιολογικές κρίσεις, όπως επισημαίνουν οι συγγραφείς.
Τα μεγάλα γλωσσικά μοντέλα (LLMs) ενσωματώνονται ολοένα περισσότερο στην υγεία, υποστηρίζοντας τις κλινικές διαδικασίες, τη διάγνωση, τον σχεδιασμό της θεραπείας και την έγκαιρη αξιοποίηση των περιορισμένων ιατρικών πόρων.
Μία από τις εφαρμογές τους αφορά τις αποφάσεις για την κατανομή νεφρών από νεκρούς ή ζώντες δότες σε ασθενείς, οι οποίες, σύμφωνα με τους συγγραφείς, στηρίζονται σε σύνθετα ηθικά και δεοντολογικά κριτήρια.
Σε τέτοια κρίσιμα σενάρια, οι ερευνητές τονίζουν ότι οι αποφάσεις απαιτούν όχι μόνο ακρίβεια, αλλά και συμφωνία με τις ανθρώπινες αξίες και την ηθική κρίση.
Κατά τους ερευνητές, το ερώτημα αν η τεχνητή νοημοσύνη μπορεί να λαμβάνει ηθικές αποφάσεις ή αν αυτές ευθυγραμμίζονται με τις ανθρώπινες αξίες βρίσκεται στον πυρήνα της ευρύτερης σημερινής συζήτησης γύρω από την τεχνητή νοημοσύνη.
«Τα ηθικά διακυβεύματα είναι μεγάλα και ο ρόλος της τεχνητής νοημοσύνης σε τέτοιες αποφάσεις που αλλάζουν ζωές απαιτεί βαθιά σκέψη», είπε ο Hosseini. «Οι ηθικές αποφάσεις σε πεδία όπως η κατανομή οργάνων καθορίζουν άμεσα ποιος θα ζήσει και ποιος θα πεθάνει, άρα το να προσδιορίσουμε σωστά τον ρόλο της τεχνητής νοημοσύνης σε αυτές δεν είναι προαιρετικό.»
«Παρότι δεν σκοπεύουμε να ενθαρρύνουμε τη χρήση της τεχνητής νοημοσύνης ως υποκατάστατο της επαγγελματικής κρίσης στη λήψη ιατρικών αποφάσεων ή σε άλλα κρίσιμα πεδία, γίνεται πλέον απαραίτητο να κατανοήσουμε τη συμπεριφορά των συστημάτων, καθώς άτομα, οργανισμοί και εταιρείες βασίζονται όλο και περισσότερο στην τεχνητή νοημοσύνη για να λαμβάνουν αποφάσεις ή συστάσεις», πρόσθεσε.