Η υπόθεση εγείρει περαιτέρω ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης για τα παιδιά, καθώς οι εταιρείες τεχνολογίας αντιμετωπίζουν περισσότερες αγωγές για την τεχνολογία τους.
Μήνυση έχουν καταθέσει οι γονείς ενός 13χρονου κοριτσιού σε βάρος της Google, υποστηρίζοντας ότι η κόρη τους χρησιμοποίησε την τεχνολογία Τεχνητής Νοημοσύνης της σε σχολικό υπολογιστή που της είχε χορηγηθεί από το σχολείο για να σχεδιάσει ένα πιθανό αυτοκτονικό επεισόδιο και την κηδεία της.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Η μήνυση, που κατατέθηκε τη Δευτέρα 2 Νοεμβρίου σε δικαστήριο της πολιτείας Καλιφόρνια στις ΗΠΑ, θεωρείται ότι είναι η πρώτη που κατηγορεί τη Google για αμέλεια όσον αφορά λειτουργίες αναζήτησης με Τεχνητή Νοημοσύνη στις οποίες είχε πρόσβαση μέσω ενός σχολικού Chromebook, ενός από τα χαμηλού κόστους φορητά της που χρησιμοποιούνται ευρέως στα σχολεία.
Το κορίτσι, που αναφέρεται ως Έμα, δεν μπορούσε να έχει πρόσβαση στην εφαρμογή Gemini της Google ή στο ChatGPT της OpenAI, καθώς και οι δύο είχαν μπλοκαριστεί από το σχολείο της. Ωστόσο, μπορούσε ακόμη να χρησιμοποιεί τη μηχανή αναζήτησης της Google, η οποία περιλαμβάνει λειτουργίες που βασίζονται σε Τεχνητή Νοημοσύνη.
Παρά το ότι δεν είχε «ιστορικό» ψυχικής ασθένειας, η Έμα μέσα σε λίγους μήνες από τη χρήση της μηχανής αναζήτησης άρχισε μια «σιωπηλή κατηφορική πορεία προς μια σοβαρή ψυχολογική κρίση», σύμφωνα με την αγωγή.
Στις 17 Μαρτίου, το σχολείο ειδοποίησε τους γονείς της, όταν το λογισμικό παρακολούθησης εντόπισε ένα έγγραφο με τίτλο «Κηδεία». Αργότερα, η μητέρα της τη βρήκε να γράφει ένα αποχαιρετιστήριο γράμμα, κάτι που οδήγησε τον πατέρα της να παρέμβει.
«Τα σχολεία πρέπει να απενεργοποιήσουν την αναζήτηση και να την κρατήσουν απενεργοποιημένη μέχρι η Google να αφαιρέσει το AI mode από την αναζήτηση ή να διασφαλίσει ότι κάθε μαθητής είναι πάντα ασφαλής όταν αλληλεπιδρά με Τεχνητή Νοημοσύνη», δήλωσε στο AFP την Πέμπτη 5 Νοεμβρίου ένας από τους δικηγόρους της οικογένειας, ο Άντριου Λίντελ.
Εντεινόμενος νομικός έλεγχος για τους τεχνολογικούς κολοσσούς
Η Google αναφέρει ότι το AI Mode περιλαμβάνει δικλίδες ασφαλείας έναντι της αυτοβλάβης και προσπαθειών παρακάμψής τους.
«Εξετάζουμε τους ισχυρισμούς που διατυπώνονται στη μήνυση και λαμβάνουμε το ζήτημα αυτό πολύ σοβαρά», δήλωσε στο AFP εκπρόσωπος της Google, ο Χοσέ Καστανέντα.
Η OpenAI αντιμετωπίζει αρκετές αγωγές για άδικους θανάτους, μεταξύ των οποίων μία που έχει κατατεθεί από τους γονείς του 16χρονου Άνταμ Ρέιν, ο οποίος έβαλε τέλος στη ζωή του αφού φέρεται να έλαβε επιζήμιες συμβουλές από το ChatGPT.
Τον Ιανουάριο, η Google και η Character.AI συμφώνησαν επίσης να διευθετήσουν εξωδικαστικά αρκετές αγωγές που είχαν καταθέσει οικογένειες εφήβων.
Την ίδια ώρα, σε μια ξεχωριστή νομική διαμάχη, η Google, η TikTok και η Meta κατέθεσαν την Τετάρτη αγωγές κατά της πολιτείας Καλιφόρνια με στόχο να μπλοκάρουν έναν νόμο που απαγορεύει εθιστικά χαρακτηριστικά στα μέσα κοινωνικής δικτύωσης για χρήστες κάτω των 16 ετών.
Ο νόμος, που υπογράφηκε τον Σεπτέμβριο από τον κυβερνήτη της Καλιφόρνια, Γκάβιν Νιούσομ, αναμένεται να τεθεί σε ισχύ την 1η Ιανουαρίου 2027.