Μια αναλυτική ματιά στο νέο έγγραφο με τις «αρχές» της εταιρείας
Η OpenAI εμφανίζεται σήμερα λιγότερο επικεντρωμένη στην τεχνητή γενική νοημοσύνη (AGI) σε σχέση με πριν από σχεδόν μία δεκαετία και δίνει προτεραιότητα στην ευρύτερη διάδοση της τεχνολογίας της, σύμφωνα με τη νέα δήλωση αποστολής της εταιρείας.
ΔΙΑΦΉΜΙΣΗ
ΔΙΑΦΉΜΙΣΗ
Την Κυριακή, η OpenAI δημοσίευσε επικαιροποίηση του κειμένου “Our Principles”, στο οποίο περιγράφεται πώς σκοπεύει να διαχειρίζεται την τεχνολογία της στο μέλλον.
Υπάρχουν σημαντικές διαφορές ανάμεσα σε αυτό το νέο πλαίσιο αρχών και στις προτεραιότητες που είχε η εταιρεία σχεδόν πριν από δέκα χρόνια, όταν ήταν ακόμη μια νεοσύστατη μη κερδοσκοπική ερευνητική οργάνωση τεχνητής νοημοσύνης (AI).
Η τεχνητή γενική νοημοσύνη περνά σε δεύτερη μοίρα
Το 2018, η OpenAI είχε ως κεντρικό στόχο την τεχνητή γενική υπερνοημοσύνη (AGI), δηλαδή την ιδέα ότι η τεχνολογία της θα ξεπεράσει την ανθρώπινη νοημοσύνη· σήμερα όμως αποτελεί απλώς ένα τμήμα της ευρύτερης ανάπτυξης εφαρμογών AI από την εταιρεία.
Και οι δύο εκδοχές των αρχών της εταιρείας αναφέρουν ότι η αποστολή της OpenAI είναι να διασφαλίσει ότι η τεχνολογία αυτή «ωφελεί όλη την ανθρωπότητα», όμως το κείμενο του 2018 αναφέρεται ρητά στην ασφαλή και επωφελή ανάπτυξή της.
«Πρωταρχική μας ευθύνη είναι απέναντι στην ανθρωπότητα», αναφέρεται στο κείμενο. «Προβλέπουμε ότι θα χρειαστεί να κινητοποιήσουμε σημαντικούς πόρους για να εκπληρώσουμε την αποστολή μας, αλλά θα ενεργούμε πάντα με επιμέλεια ώστε να περιορίζουμε τις συγκρούσεις συμφερόντων μεταξύ εργαζομένων και μετόχων που θα μπορούσαν να υπονομεύσουν το ευρύ όφελος».
Η εκδοχή του 2026 (πηγή στα Αγγλικά), ωστόσο, αναφέρει ότι η εταιρεία πρέπει να συνεχίσει να αναπτύσσει ασφαλή συστήματα, αλλά και ότι η κοινωνία οφείλει να αντιμετωπίζει «κάθε διαδοχικό επίπεδο δυνατοτήτων της AI, να το κατανοεί, να το ενσωματώνει και να βρίσκει συλλογικά την καλύτερη πορεία προς τα εμπρός».
Ο δρόμος προς τα εμπρός, όπως τον περιγράφει το 2026 ο διευθύνων σύμβουλος και συνιδρυτής Σαμ Όλτμαν, είναι η δημοκρατικοποίηση της AI σε όλα τα επίπεδα, με καθολική πρόσβαση στην τεχνολογία και με αντίσταση στην ιδέα ότι μπορεί να «συγκεντρώσει την εξουσία στα χέρια λίγων».
Το κείμενο αρχών του 2026 αναφέρει επίσης ότι η OpenAI αναμένεται να συνεργάζεται με κυβερνήσεις, διεθνείς οργανισμούς και άλλες πρωτοβουλίες AGI, ώστε να «επιλύονται επαρκώς σοβαρά προβλήματα ευθυγράμμισης, ασφάλειας ή κοινωνικών επιπτώσεων προτού προχωρήσει περαιτέρω» το έργο της.
Παραδείγματα μιας τέτοιας προσέγγισης θα μπορούσαν να είναι η χρήση του ChatGPT για την αντιμετώπιση μοντέλων που θα μπορούσαν να δημιουργούν νέους παθογόνους οργανισμούς ή η ενσωμάτωση μοντέλων με υψηλή ανθεκτικότητα σε κυβερνοεπιθέσεις στις κρίσιμες υποδομές.
Ο Όλτμαν έδωσε κάποιες ενδείξεις για τη μετατόπιση του ενδιαφέροντος της OpenAI από την AGI στο προσωπικό του ιστολόγιο νωρίτερα μέσα στον μήνα.
Η AGI έχει ένα «δαχτυλίδι της δύναμης» που «κάνει τους ανθρώπους να κάνουν τρελά πράγματα», έγραψε ο Όλτμαν. Για να το αντιμετωπίσουμε, πρόσθεσε, η μόνη λύση είναι «να προσανατολιστούμε στη γενικευμένη διάδοση της τεχνολογίας στους πολίτες, ώστε κανείς να μην έχει το δαχτυλίδι».
Η OpenAI δεν κάνει πλέον στην άκρη υπέρ ενός προϊόντος ασφάλειας
Το 2018, η OpenAI δήλωνε ανήσυχη ότι η ανάπτυξη της AGI εξελισσόταν σε «ανταγωνιστική κούρσα χωρίς χρόνο για επαρκή μέτρα ασφαλείας».
Είχε δεσμευθεί ότι θα ανέστειλε την ανάπτυξη των δικών της μοντέλων για να στηρίξει οποιοδήποτε εγχείρημα ήταν «ευθυγραμμισμένο σε αξίες και προσανατολισμένο στην ασφάλεια» και βρισκόταν πιο κοντά στην υλοποίηση της AGI.
«Θα διευκρινίσουμε τις λεπτομέρειες… αλλά μια τυπική συνθήκη ενεργοποίησης θα μπορούσε να είναι η πιθανότητα επιτυχίας άνω του 50% μέσα στα επόμενα δύο χρόνια», αναφέρει το κείμενο του 2018.
Στο κείμενο του 2026 δεν γίνεται καμία αναφορά σε ενδεχόμενη υποχώρηση υπέρ ενός «ανώτερου σκοπού». Αντίθετα, αναγνωρίζει ότι η OpenAI «είναι σήμερα πολύ μεγαλύτερη δύναμη στον κόσμο απ’ ό,τι ήταν πριν από λίγα χρόνια» και δεσμεύεται να είναι διαφανής σχετικά με το πότε και πώς μπορεί να αλλάξουν οι λειτουργικές της αρχές.
Η εταιρεία βρίσκεται σε σκληρό ανταγωνισμό με αρκετούς αντιπάλους, ανάμεσά τους και η Anthropic.
Τον Φεβρουάριο, η Anthropic αρνήθηκε να δώσει στην κυβέρνηση του προέδρου των ΗΠΑ Ντόναλντ Τραμπ απεριόριστη πρόσβαση στην AI της για στρατιωτική χρήση, γεγονός που είχε ως αποτέλεσμα η εταιρεία να χαρακτηριστεί κίνδυνος για την αλυσίδα εφοδιασμού και, τον Μάρτιο, να δοθεί εντολή σε ομοσπονδιακούς υπαλλήλους να σταματήσουν να χρησιμοποιούν τον βοηθό τεχνητής νοημοσύνης Claude της Anthropic.
Στις 28 Φεβρουαρίου, η OpenAI έσπευσε να καλύψει το κενό, υπογράφοντας συμφωνία με το Υπουργείο Πολέμου, γεγονός που οδήγησε ορισμένους χρήστες να μποϊκοτάρουν το ChatGPT υπέρ του Claude.
Η Anthropic επίσης αποτιμήθηκε αυτόν τον μήνα στα 800 δισ. δολάρια (696 δισ. ευρώ), σε επίπεδα αντίστοιχα με αυτά της OpenAI.
Γενικές εκκλήσεις για αλλαγές σε επίπεδο κοινωνίας
Στο κείμενο του 2026, η OpenAI ζητά μια σειρά από κοινωνικές αλλαγές ώστε ο κόσμος να προσαρμοστεί καλύτερα στην AI.
«Οραματιζόμαστε έναν κόσμο με ευρεία ευημερία σε ένα επίπεδο που σήμερα είναι δύσκολο να φανταστούμε», αναφέρει το κείμενο. «Πολλά από όσα μέχρι τώρα επιτρέπαμε στον εαυτό μας να ονειρεύεται μόνο στην επιστημονική φαντασία θα μπορούσαν να γίνουν πραγματικότητα και οι περισσότεροι άνθρωποι να ζουν ζωές με μεγαλύτερο νόημα απ’ ό,τι μπορούν σήμερα».
Αυτό το μέλλον δεν είναι δεδομένο, καθώς η AI μπορεί είτε να «βρίσκεται στα χέρια μιας μικρής χούφτας εταιρειών που χρησιμοποιούν και ελέγχουν την υπερνοημοσύνη», είτε να «κατέχεται με αποκεντρωμένο τρόπο από τους ίδιους τους πολίτες», όπως σημειώνεται στο κείμενο.
Το κείμενο αρχών επαναλαμβάνει επίσης ορισμένες από τις πρόσφατες προτάσεις πολιτικής της OpenAI, όπως το να εξετάσουν οι κυβερνήσεις «νέα οικονομικά μοντέλα» και να αναπτύξουν νέες τεχνολογίες που θα μειώσουν το κόστος των υποδομών AI.
«Πολλά από όσα κάνουμε και μοιάζουν παράξενα – όπως το ότι αγοράζουμε τεράστιες ποσότητες υπολογιστικής ισχύος ενώ τα έσοδά μας παραμένουν σχετικά μικρά – καθοδηγούνται από τη θεμελιώδη πίστη μας σε ένα μέλλον καθολικής ευημερίας», αναφέρει το κείμενο.