Η πραγματική απειλή της ΤΝ

Γράφει ο Evgeny Morozov, New York Times

Ο E. Morozov είναι ο συγγραφέας του βιβλίου “To Save Everything, Click Here: The Folly of Technological Solutionism” και οικοδεσπότης του επερχόμενου podcast “The Santiago Boys”.

30 Ιουνίου 2023

Τον Μάιο, περισσότερα από 350 στελέχη της τεχνολογίας, ερευνητές και ακαδημαϊκοί υπέγραψαν μια δήλωση που προειδοποιούσε για τους υπαρξιακούς κινδύνους της τεχνητής νοημοσύνης. “Ο μετριασμός του κινδύνου εξαφάνισης από την τεχνητή νοημοσύνη θα πρέπει να αποτελέσει παγκόσμια προτεραιότητα μαζί με άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος”, προειδοποίησαν οι υπογράφοντες.

Αυτό συνέβη μετά από μια άλλη επιστολή υψηλού προφίλ, την οποία υπογράφουν ονόματα όπως ο Elon Musk και ο Steve Wozniak, συνιδρυτής της Apple, και η οποία ζητούσε εξάμηνο μορατόριουμ στην ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης(ΤΝ).

Εν τω μεταξύ, η κυβέρνηση Μπάιντεν προέτρεψε σε υπεύθυνη καινοτομία ΤΝ., δηλώνοντας ότι “για να εκμεταλλευτούμε τις ευκαιρίες” που προσφέρει, “πρέπει πρώτα να διαχειριστούμε τους κινδύνους της”. Στο Κογκρέσο, ο γερουσιαστής Τσακ Σούμερ κάλεσε για “πρώτες στο είδος τους” συνεδρίες ακρόασης σχετικά με τις δυνατότητες και τους κινδύνους της ΤΝ, ένα είδος ταχύρρυθμου μαθήματος από στελέχη της βιομηχανίας, ακαδημαϊκούς, ακτιβιστές για τα πολιτικά δικαιώματα και άλλους ενδιαφερόμενους.

Η αυξανόμενη ανησυχία για την ΤΝ δεν οφείλεται στις βαρετές αλλά αξιόπιστες τεχνολογίες που συμπληρώνουν αυτόματα τα μηνύματά μας ή κατευθύνουν τις ρομποτικές ηλεκτρικές σκούπες να αποφεύγουν τα εμπόδια στο σαλόνι μας. Είναι η άνοδος της τεχνητής γενικής νοημοσύνης, ή ΓΤΝ, που ανησυχεί τους ειδικούς.

Η ΓΤΝ δεν υπάρχει ακόμη, αλλά ορισμένοι πιστεύουν ότι οι ταχέως αυξανόμενες δυνατότητες του ChatGPT της OpenAI υποδηλώνουν ότι η εμφάνισή της είναι κοντά. Ο Sam Altman, συνιδρυτής της OpenAI, την έχει περιγράψει ως “συστήματα που είναι γενικά εξυπνότερα από τους ανθρώπους”. Η κατασκευή τέτοιων συστημάτων παραμένει ένα τρομακτικό -κάποιοι λένε ότι είναι αδύνατο- έργο. Αλλά τα οφέλη φαίνονται πραγματικά δελεαστικά.

Φανταστείτε τα Roombas, τα οποία δεν θα είναι πλέον καταδικασμένα να σκουπίζουν τα πατώματα, αλλά θα εξελίσσονται σε ρομπότ γενικής χρήσης, τα οποία θα είναι ευτυχή να ετοιμάζουν τον πρωινό καφέ ή να διπλώνουν τα ρούχα — χωρίς ποτέ να έχουν προγραμματιστεί να τα κάνουν αυτά τα πράγματα.

Ακούγεται ελκυστικό. Αλλά αν αυτά τα ΓΤΝ Roombas γίνουν πολύ ισχυρά, η αποστολή τους να δημιουργήσουν μια αψεγάδιαστη ουτοπία θα μπορούσε να γίνει ακατάστατη για τα ανθρώπινα αφεντικά τους που σκορπούν τη σκόνη. Τουλάχιστον είχαμε μια καλή πορεία.

Οι συζητήσεις για την ΓΤΝ είναι γεμάτες με τέτοια αποκαλυπτικά σενάρια. Ωστόσο, ένα νεοεμφανιζόμενο λόμπι των ΓΤΝ από ακαδημαϊκούς, επενδυτές και επιχειρηματίες αντιτείνει ότι, όταν γίνουν ασφαλείς, οι ΓΤΝ θα αποτελέσουν ευλογία για τον πολιτισμό. Ο κ. Altman, το πρόσωπο αυτής της εκστρατείας, ξεκίνησε μια παγκόσμια περιοδεία για να γοητεύσει τους νομοθέτες. Νωρίτερα φέτος έγραψε ότι η ΓΤΝ θα μπορούσε ακόμη και να εκτοξεύσει την οικονομία, να ενισχύσει την επιστημονική γνώση και να “εξυψώσει την ανθρωπότητα αυξάνοντας την αφθονία”.

Αυτός είναι ο λόγος για τον οποίο, παρ’ όλη την ταραχή, τόσοι πολλοί έξυπνοι άνθρωποι της τεχνολογικής βιομηχανίας μοχθούν για την κατασκευή αυτής της αμφιλεγόμενης τεχνολογίας: το να μην τη χρησιμοποιήσουμε για να σώσουμε τον κόσμο φαίνεται ανήθικο.

Είναι υπόχρεοι σε μια ιδεολογία που θεωρεί αυτή τη νέα τεχνολογία ως αναπόφευκτη και, σε μια ασφαλή εκδοχή, ως καθολικά ευεργετική. Οι υποστηρικτές της δεν μπορούν να σκεφτούν καλύτερες εναλλακτικές λύσεις για τη διόρθωση της ανθρωπότητας και την επέκταση της νοημοσύνης της.

Αλλά αυτή η ιδεολογία — πείτε την ΓΤN-ισμό — είναι λανθασμένη. Οι πραγματικοί κίνδυνοι της ΓΤN είναι πολιτικοί και δεν θα διορθωθούν με την τιθάσευση των επαναστατημένων ρομπότ. Η ασφαλέστερη από τις ΓΤN δεν θα προσφέρει την προοδευτική πανάκεια που υπόσχεται το λόμπι της. Και παρουσιάζοντας την εμφάνισή της ως σχεδόν αναπόφευκτη, ο ΓΤΝ-ισμός αποσπά την προσοχή από την εξεύρεση καλύτερων τρόπων αύξησης της νοημοσύνης.

Χωρίς να το γνωρίζουν οι υποστηρικτές του, ο ΓΤN-ισμός είναι απλώς το μπάσταρδο παιδί μιας πολύ μεγαλύτερης ιδεολογίας, μιας ιδεολογίας που κηρύσσει ότι, όπως το έθεσε αξιομνημόνευτα η Μάργκαρετ Θάτσερ, δεν υπάρχει εναλλακτική λύση, όχι στην αγορά.

Αντί να διαλύσει τον καπιταλισμό, όπως άφησε να εννοηθεί ο κ. Altman ότι θα μπορούσε να κάνει, η ΓΤN — ή τουλάχιστον η βιασύνη για την οικοδόμησή της — είναι πιο πιθανό να δημιουργήσει έναν ισχυρό (και πολύ πιο φινετσάτο) σύμμαχο για το πιο καταστροφικό δόγμα του καπιταλισμού: τον νεοφιλελευθερισμό.

Γοητευμένοι από τις ιδιωτικοποιήσεις, τον ανταγωνισμό και το ελεύθερο εμπόριο, οι αρχιτέκτονες του νεοφιλελευθερισμού ήθελαν να δυναμιτίσουν και να μεταμορφώσουν μια στάσιμη και φιλική προς την εργασία οικονομία μέσω των αγορών και της απορρύθμισης.

Ορισμένοι από αυτούς τους μετασχηματισμούς λειτούργησαν, αλλά είχαν τεράστιο κόστος. Με την πάροδο των ετών, ο νεοφιλελευθερισμός συγκέντρωσε πολλούς, πολλούς επικριτές, οι οποίοι τον κατηγόρησαν για τη Μεγάλη Ύφεση και τη χρηματοπιστωτική κρίση, τον Τραμπισμό, το Brexit και πολλά άλλα.

Δεν αποτελεί έκπληξη, λοιπόν, το γεγονός ότι η κυβέρνηση Μπάιντεν πήρε αποστάσεις από την ιδεολογία, αναγνωρίζοντας ότι οι αγορές μερικές φορές κάνουν λάθος. Ιδρύματα, δεξαμενές σκέψης και ακαδημαϊκοί έχουν τολμήσει ακόμη και να φανταστούν ένα μετα-νεοφιλελεύθερο μέλλον.

Ωστόσο, ο νεοφιλελευθερισμός απέχει πολύ από το να πεθάνει. Ακόμα χειρότερα, έχει βρει σύμμαχο στον ΓΤΝ-ισμό, ο οποίος ενισχύει και αναπαράγει τις κύριες προκαταλήψεις του: ότι οι ιδιωτικοί φορείς υπερτερούν των δημόσιων (η προκατάληψη της αγοράς), ότι η προσαρμογή στην πραγματικότητα είναι καλύτερη από τον μετασχηματισμό της (η προκατάληψη της προσαρμογής) και ότι η αποτελεσματικότητα υπερισχύει των κοινωνικών ανησυχιών (η προκατάληψη της αποτελεσματικότητας).

Αυτές οι προκαταλήψεις ανατρέπουν τη γοητευτική υπόσχεση που κρύβεται πίσω από την ΓΤΝ: Αντί να σώσει τον κόσμο, η προσπάθεια για την κατασκευή της θα κάνει τα πράγματα μόνο χειρότερα. Να πώς.

Η ΓΤΝ δεν θα ξεπεράσει ποτέ τις απαιτήσεις της αγοράς για κέρδος.

Θυμάστε όταν η Uber, με τις φτηνές τιμές της, φλέρταρε τις πόλεις για να λειτουργήσει ως δημόσιο σύστημα μεταφοράς τους;

Όλα ξεκίνησαν όμορφα, με την Uber να υπόσχεται απίστευτα φτηνές διαδρομές, χάρη σε ένα μέλλον με αυτοκινούμενα αυτοκίνητα και ελάχιστο εργατικό κόστος. Οι επενδυτές με βαθιά τσέπη λάτρεψαν αυτό το όραμα, απορροφώντας ακόμη και τις ζημίες πολλών δισεκατομμυρίων δολαρίων της Uber.

Αλλά όταν η πραγματικότητα αποκαλύφθηκε, τα αυτοοδηγούμενα αυτοκίνητα παρέμεναν ένα όνειρο απατηλό. Οι επενδυτές απαίτησαν αποδόσεις και η Uber αναγκάστηκε να αυξήσει τις τιμές. Οι χρήστες που βασίζονταν σε αυτήν για να αντικαταστήσει τα δημόσια λεωφορεία και τρένα έμειναν στο πεζοδρόμιο.

Το νεοφιλελεύθερο ένστικτο πίσω από το επιχειρηματικό μοντέλο της Uber είναι ότι ο ιδιωτικός τομέας μπορεί να τα καταφέρει καλύτερα από τον δημόσιο τομέα — η βλαπτική προκατάληψη της αγοράς.

Δεν πρόκειται μόνο για τις πόλεις και τις δημόσιες συγκοινωνίες. Τα νοσοκομεία, τα αστυνομικά τμήματα και ακόμη και το Πεντάγωνο βασίζονται όλο και περισσότερο στη Silicon Valley για την εκπλήρωση των αποστολών τους.

Με την ΓΤΝ, αυτή η εξάρτηση θα βαθύνει, όχι μόνο επειδή η ΓΤΝ είναι απεριόριστη σε έκταση και φιλοδοξία. Καμία διοικητική ή κυβερνητική υπηρεσία δεν θα είναι απρόσβλητη από την υπόσχεση της αναστάτωσης που υπόσχεται.

Επιπλέον, η ΓΤΝ δεν χρειάζεται καν να υπάρχει για να τους προσελκύσει. Αυτό, εν πάση περιπτώσει, είναι το μάθημα της Theranos, μιας start-up που υποσχέθηκε να “λύσει” την υγειονομική περίθαλψη μέσω μιας επαναστατικής τεχνολογίας εξέτασης αίματος και πρώην αγαπημένης της αμερικανικής ελίτ. Τα θύματά της είναι πραγματικά, ακόμη και αν η τεχνολογία της δεν ήταν ποτέ.

Μετά από τόσα πολλά τραύματα τύπου Uber και Theranos, ξέρουμε ήδη τι να περιμένουμε από την ανάπτυξη της ΓΤΝ Θα αποτελείται από δύο φάσεις. Πρώτον, η επίθεση γοητείας με υπηρεσίες που επιδοτούνται σε μεγάλο βαθμό. Στη συνέχεια, η άσχημη υποχώρηση, με τους υπερβολικά εξαρτημένους χρήστες και τους οργανισμούς να επωμίζονται το κόστος για να τις καταστήσουν κερδοφόρες.

Όπως πάντα, οι ειδήμονες της Silicon Valley υποβαθμίζουν το ρόλο της αγοράς. Σε ένα πρόσφατο δοκίμιο με τίτλο “Γιατί η Α.Ι. θα σώσει τον κόσμο”, ο Marc Andreessen, εξέχων επενδυτής τεχνολογίας, διακηρύσσει μάλιστα ότι η Α.Ι. “ανήκει σε ανθρώπους και ελέγχεται από ανθρώπους, όπως κάθε άλλη τεχνολογία”.

Μόνο ένας κεφαλαιούχος επιχειρηματικών κεφαλαίων μπορεί να κυκλοφορεί με τέτοιους εξαίσιους ευφημισμούς. Οι περισσότερες σύγχρονες τεχνολογίες ανήκουν σε εταιρείες. Και θα είναι αυτές -όχι οι μυθικοί “άνθρωποι”- που θα βγάλουν λεφτά από τη σωτηρία του κόσμου.

Και τον σώζουν πραγματικά; Το ιστορικό, μέχρι στιγμής, είναι φτωχό. Εταιρείες όπως η Airbnb και η TaskRabbit έγιναν δεκτές ως σωτήρες της ταλαιπωρημένης μεσαίας τάξης- τα ηλεκτρικά αυτοκίνητα της Tesla θεωρήθηκαν ως φάρμακο για την υπερθέρμανση του πλανήτη. Το Soylent, το ρόφημα αντικατάστασης γεύματος, ξεκίνησε μια αποστολή για να “λύσει” την παγκόσμια πείνα, ενώ το Facebook υποσχέθηκε να “λύσει” τα προβλήματα συνδεσιμότητας στον Παγκόσμιο Νότο. Καμία από αυτές τις εταιρείες δεν έσωσε τον κόσμο.

Πριν από μια δεκαετία, το αποκαλούσα αυτό “λυσιαρχεία — solutionism”, αλλά ο “ψηφιακός νεοφιλελευθερισμός” θα ήταν εξίσου ταιριαστός. Αυτή η κοσμοθεωρία αναπλαισιώνει τα κοινωνικά προβλήματα υπό το πρίσμα κερδοσκοπικών τεχνολογικών λύσεων. Ως αποτέλεσμα, οι ανησυχίες που ανήκουν στον δημόσιο τομέα επαναπροσδιορίζονται ως επιχειρηματικές ευκαιρίες στην αγορά.

Ο ΓΤΝ-ισμός αναζωπύρωσε αυτή τη θέρμη των λύσεων. Πέρυσι, ο κ. Altman δήλωσε ότι “η ΓΤΝ είναι πιθανώς απαραίτητη για να επιβιώσει η ανθρωπότητα” επειδή “τα προβλήματά μας φαίνονται πολύ μεγάλα” για να τα “λύσουμε χωρίς καλύτερα εργαλεία”. Πρόσφατα διαβεβαίωσε ότι η ΓΤΝ θα αποτελέσει καταλύτη για την ανθρώπινη ευημερία.

Αλλά οι εταιρείες χρειάζονται κέρδη και μια τέτοια καλοσύνη, ειδικά από μη κερδοφόρες εταιρείες που καίνε τα δισεκατομμύρια των επενδυτών, είναι ασυνήθιστη. Η OpenAI, έχοντας δεχτεί δισεκατομμύρια από τη Microsoft, σκέφτεται να συγκεντρώσει άλλα 100 δισεκατομμύρια δολάρια για να κατασκευάσει την ΓΤΝ Αυτές οι επενδύσεις θα πρέπει να κερδηθούν και πάλι — έναντι του συγκλονιστικού αόρατου κόστους της υπηρεσίας. (Μια εκτίμηση από τον Φεβρουάριο ανεβάζει το κόστος λειτουργίας του ChatGPT σε 700.000 δολάρια την ημέρα).

Έτσι, η άσχημη φάση της περιστολής, με επιθετικές αυξήσεις τιμών για να καταστεί μια υπηρεσία ΓΤΝ κερδοφόρα, μπορεί να φτάσει πριν από την “αφθονία” και την “άνθηση”. Αλλά πόσα δημόσια ιδρύματα θα μπερδέψουν τις ασταθείς αγορές με τις προσιτές τεχνολογίες και θα εξαρτηθούν από τις ακριβές προσφορές του OpenAI μέχρι τότε;

Και αν δεν σας αρέσει η πόλη σας να αναθέτει τις δημόσιες συγκοινωνίες σε μια εύθραυστη νεοσύστατη επιχείρηση, θα θέλατε να εκχωρεί τις υπηρεσίες πρόνοιας, τη διαχείριση των απορριμμάτων και τη δημόσια ασφάλεια στις πιθανώς ακόμη πιο ευμετάβλητες εταιρείες ΓΤΝ;

Η ΓΤΝ θα αμβλύνει τον πόνο των πιο ακανθώδων προβλημάτων μας χωρίς να τα επιλύσει.

Ο νεοφιλελευθερισμός έχει την ικανότητα να κινητοποιεί την τεχνολογία για να κάνει τις δυστυχίες της κοινωνίας υποφερτές. Θυμάμαι ένα καινοτόμο τεχνολογικό εγχείρημα από το 2017 που υποσχόταν να βελτιώσει τη χρήση μιας γραμμής του μετρό στο Σικάγο από τους εργαζόμενους. Προσέφερε ανταμοιβές για να αποθαρρύνει τους επιβάτες του μετρό από το να ταξιδεύουν σε ώρες αιχμής. Οι δημιουργοί του αξιοποίησαν την τεχνολογία για να επηρεάσουν την πλευρά της ζήτησης (τους επιβάτες), θεωρώντας ότι οι διαρθρωτικές αλλαγές στην πλευρά της προσφοράς (όπως η αύξηση της χρηματοδότησης των δημόσιων μεταφορών) ήταν πολύ δύσκολες. Η τεχνολογία θα βοηθούσε τους κατοίκους του Σικάγο να προσαρμοστούν στις υποβαθμισμένες υποδομές της πόλης αντί να τις επιδιορθώνουν προκειμένου να ικανοποιήσουν τις ανάγκες του κοινού.

Αυτή είναι η προκατάληψη της προσαρμογής — η φιλοδοξία ότι, με ένα τεχνολογικό ραβδί, μπορούμε να αναισθητοποιηθούμε απέναντι στη δεινή μας θέση. Είναι το προϊόν της αδιάκοπης ζητωκραυγής του νεοφιλελευθερισμού υπέρ της αυτοδυναμίας και της ανθεκτικότητας.

Το μήνυμα είναι σαφές: ετοιμαστείτε, ενισχύστε το ανθρώπινο κεφάλαιό σας και χαράξτε την πορεία σας σαν νεοφυής επιχείρηση. Και ο ΓΤΝ-ισμός απηχεί αυτή τη μελωδία. Ο Μπιλ Γκέιτς έχει διατυμπανίσει ότι η ΓΤΝ μπορεί να “βοηθήσει τους ανθρώπους παντού να βελτιώσουν τη ζωή τους”.

Η γιορτή των λύσεων μόλις τώρα αρχίζει: Είτε πρόκειται για την καταπολέμηση της επόμενης πανδημίας, είτε για την επιδημία της μοναξιάς είτε για τον πληθωρισμό, η ΓΤΝ προβάλλεται ήδη ως σφυρί γενικής χρήσης για πολλά πραγματικά και φανταστικά καρφιά. Ωστόσο, η δεκαετία που χάθηκε για την τρέλα των solutionists αποκαλύπτει τα όρια τέτοιων τεχνολογικών λύσεων.

Σίγουρα, οι πολλές εφαρμογές της Silicon Valley -για την παρακολούθηση των δαπανών μας, των θερμίδων και των προγραμμάτων γυμναστικής- είναι περιστασιακά χρήσιμες. Αλλά ως επί το πλείστον αγνοούν τα βαθύτερα αίτια της φτώχειας ή της παχυσαρκίας. Και χωρίς την αντιμετώπιση των αιτιών, παραμένουμε κολλημένοι στη σφαίρα της προσαρμογής, όχι του μετασχηματισμού.

Υπάρχει διαφορά ανάμεσα στο να μας ωθήσουμε να ακολουθήσουμε τις ρουτίνες μας για περπάτημα -μια λύση που ευνοεί την ατομική προσαρμογή- και στο να κατανοήσουμε γιατί οι πόλεις μας δεν έχουν δημόσιους χώρους για περπάτημα -προϋπόθεση για μια φιλική πολιτική λύση που ευνοεί τον συλλογικό και θεσμικό μετασχηματισμό.

Αλλά ο ΓΤΝ-ισμός, όπως και ο νεοφιλελευθερισμός, βλέπει τους δημόσιους θεσμούς ως μη ευφάνταστους και όχι ιδιαίτερα παραγωγικούς. Θα πρέπει απλώς να προσαρμοστούν στην ΓΤΝ, τουλάχιστον σύμφωνα με τον κ. Altman, ο οποίος δήλωσε πρόσφατα ότι είναι αγχωμένος για “την ταχύτητα με την οποία οι θεσμοί μας μπορούν να προσαρμοστούν” — εν μέρει ο λόγος, πρόσθεσε, “για τον οποίο θέλουμε να αρχίσουμε να αναπτύσσουμε αυτά τα συστήματα πολύ νωρίς, ενώ είναι πραγματικά αδύναμα, έτσι ώστε οι άνθρωποι να έχουν όσο το δυνατόν περισσότερο χρόνο για να το κάνουν αυτό”.

Αλλά θα πρέπει οι θεσμοί να προσαρμόζονται μόνο; Δεν μπορούν να αναπτύξουν τις δικές τους μετασχηματιστικές ατζέντες για τη βελτίωση της νοημοσύνης της ανθρωπότητας; Ή μήπως χρησιμοποιούμε τους θεσμούς μόνο για να μετριάσουμε τους κινδύνους των τεχνολογιών της Silicon Valley;

Η ΓΤΝ υπονομεύει τις κοινωνικές αρετές και ενισχύει τις τάσεις που ήδη αντιπαθούμε.

Μια συνήθης κριτική του νεοφιλελευθερισμού είναι ότι έχει ισοπεδώσει την πολιτική μας ζωή, αναδιατάσσοντάς την γύρω από την αποτελεσματικότητα. “Το πρόβλημα του κοινωνικού κόστους”, ένα άρθρο του 1960 που έχει γίνει κλασικό του νεοφιλελεύθερου κανόνα, κηρύσσει ότι ένα ρυπογόνο εργοστάσιο και τα θύματά του δεν θα πρέπει να μπαίνουν στον κόπο να φέρνουν τις διαφορές τους στα δικαστήρια. Τέτοιες μάχες είναι αναποτελεσματικές — ποιος χρειάζεται δικαιοσύνη, ούτως ή άλλως; — και στέκονται εμπόδιο στη δραστηριότητα της αγοράς. Αντ’ αυτού, τα μέρη θα πρέπει να διαπραγματεύονται ιδιωτικά την αποζημίωση και να συνεχίζουν τη δουλειά τους.

Αυτή η εμμονή στην αποτελεσματικότητα είναι ο τρόπος με τον οποίο φτάσαμε στην “επίλυση” της κλιματικής αλλαγής αφήνοντας τους χειρότερους παραβάτες να συνεχίσουν όπως πριν. Ο τρόπος για να αποφύγουμε τα δεσμά της ρύθμισης είναι να επινοήσουμε ένα σύστημα -στην προκειμένη περίπτωση, τη φορολόγηση του άνθρακα- το οποίο θα επιτρέπει στους ρυπαίνοντες να αγοράζουν πιστωτικές μονάδες που θα αντιστοιχούν στον επιπλέον άνθρακα που εκπέμπουν.

Αυτή η κουλτούρα της αποτελεσματικότητας, στην οποία οι αγορές μετρούν την αξία των πραγμάτων και υποκαθιστούν τη δικαιοσύνη, αναπόφευκτα διαβρώνει τις κοινωνικές αρετές.

Και τα προβλήματα που δημιουργεί αυτό είναι ορατά παντού. Οι ακαδημαϊκοί ανησυχούν ότι, υπό τον νεοφιλελευθερισμό, η έρευνα και η διδασκαλία έχουν γίνει εμπορεύματα. Οι γιατροί παραπονιούνται ότι τα νοσοκομεία δίνουν προτεραιότητα στις πιο κερδοφόρες υπηρεσίες, όπως οι χειρουργικές επεμβάσεις επιλογής, έναντι της επείγουσας περίθαλψης. Οι δημοσιογράφοι μισούν το γεγονός ότι η αξία των άρθρων τους μετριέται σε μάτια.

Φανταστείτε τώρα να εξαπολύεται η ΓΤΝ σε αυτά τα αξιοσέβαστα ιδρύματα — το πανεπιστήμιο, το νοσοκομείο, την εφημερίδα — με την ευγενή αποστολή να τα “διορθώσει”. Οι έμμεσες πολιτικές αποστολές τους θα παρέμεναν αόρατες για την ΓΤΝ, διότι αυτές οι αποστολές σπάνια ποσοτικοποιούνται ακόμη και στις ετήσιες εκθέσεις τους — το είδος του υλικού που χρησιμοποιείται για την εκπαίδευση των μοντέλων πίσω από την ΓΤΝ

Εξάλλου, ποιος θέλει να καυχιέται ότι το μάθημά του στην ιστορία της Αναγέννησης είχε μόνο μια χούφτα φοιτητές; Ή ότι το άρθρο της για τη διαφθορά σε κάποια μακρινή χώρα είχε μόνο δώδεκα προβολές; Αναποτελεσματικές και ασύμφορες, τέτοιες εξαιρέσεις επιβιώνουν ως εκ θαύματος ακόμη και στο σημερινό σύστημα. Το υπόλοιπο ίδρυμα τις επιδοτεί αθόρυβα, δίνοντας προτεραιότητα σε άλλες αξίες εκτός από την “αποτελεσματικότητα” με γνώμονα το κέρδος.

Αυτό θα εξακολουθεί να ισχύει και στην ουτοπία της ΓΤΝ; Ή μήπως η διόρθωση των θεσμών μας μέσω της ΓΤΝ θα είναι σαν να τους παραδίδουμε σε αδίστακτους συμβούλους; Και αυτοί, επίσης, προσφέρουν “λύσεις” βασισμένες σε δεδομένα για τη μεγιστοποίηση της αποδοτικότητας. Αλλά αυτές οι λύσεις συχνά αποτυγχάνουν να κατανοήσουν την ακατάστατη αλληλεπίδραση των αξιών, των αποστολών και των παραδόσεων στην καρδιά των ιδρυμάτων — μια αλληλεπίδραση που σπάνια είναι ορατή αν ξύσετε μόνο την επιφάνεια των δεδομένων τους.

Στην πραγματικότητα, οι αξιοσημείωτες επιδόσεις των υπηρεσιών που μοιάζουν με τις υπηρεσίες ChatGPT είναι, εκ κατασκευής, μια άρνηση κατανόησης της πραγματικότητας σε βαθύτερο επίπεδο, πέρα από την επιφάνεια των δεδομένων. Έτσι, ενώ τα προηγούμενα συστήματα Α.Ι. βασίζονταν σε ρητούς κανόνες και απαιτούσαν από κάποιον σαν τον Νεύτωνα να θεωρητικοποιήσει τη βαρύτητα — να ρωτήσει πώς και γιατί πέφτουν τα μήλα — τα νεότερα συστήματα όπως το ΓΤΝ απλά μαθαίνουν να προβλέπουν τα αποτελέσματα της βαρύτητας παρατηρώντας εκατομμύρια μήλα να πέφτουν στο έδαφος.

Ωστόσο, αν το μόνο που βλέπει το ΓΤΝ είναι φορείς με περιορισμένα μετρητά που παλεύουν για την επιβίωση, μπορεί να μην συμπεράνει ποτέ το πραγματικό τους ήθος. Καλή τύχη στο να διακρίνει κανείς το νόημα του όρκου του Ιπποκράτη παρατηρώντας νοσοκομεία που έχουν μετατραπεί σε κέντρα κέρδους.

Η άλλη διάσημη νεοφιλελεύθερη ρήση της Μάργκαρετ Θάτσερ ήταν ότι “δεν υπάρχει τέτοιο πράγμα όπως η κοινωνία”.

Το λόμπι της ΓΤΝ μοιράζεται άθελά του αυτή τη ζοφερή άποψη. Γι’ αυτούς, το είδος της νοημοσύνης που αξίζει να αναπαραχθεί είναι συνάρτηση των όσων συμβαίνουν στα κεφάλια των ατόμων και όχι στην κοινωνία στο σύνολό της.

Αλλά η ανθρώπινη νοημοσύνη είναι εξίσου προϊόν πολιτικών και θεσμών όσο και γονιδίων και ατομικών ικανοτήτων. Είναι ευκολότερο να είσαι έξυπνος με μια υποτροφία στη Βιβλιοθήκη του Κογκρέσου παρά να κάνεις διάφορες δουλειές σε ένα μέρος χωρίς βιβλιοπωλείο ή έστω αξιοπρεπές Wi-Fi.

Δεν φαίνεται τόσο αμφιλεγόμενο να προτείνουμε ότι περισσότερες υποτροφίες και δημόσιες βιβλιοθήκες θα κάνουν θαύματα για την ενίσχυση της ανθρώπινης νοημοσύνης. Αλλά για το πλήθος των λύσεων στη Silicon Valley, η αύξηση της νοημοσύνης είναι πρωτίστως ένα τεχνολογικό πρόβλημα — εξ ου και ο ενθουσιασμός για την ΓΤΝ

Ωστόσο, αν ο ΓΤΝ-ισμός είναι πραγματικά νεοφιλελευθερισμός με άλλα μέσα, τότε θα πρέπει να είμαστε έτοιμοι να δούμε λιγότερους — όχι περισσότερους — θεσμούς που θα ενισχύουν τη νοημοσύνη. Εξάλλου, είναι τα απομεινάρια εκείνης της φοβερής “κοινωνίας” που, για τους νεοφιλελεύθερους, δεν υπάρχει στην πραγματικότητα. Το μεγάλο σχέδιο της ΓΤΝ για την ενίσχυση της νοημοσύνης μπορεί να καταλήξει στη συρρίκνωσή της.

Εξαιτίας μιας τέτοιας προκατάληψης λύσεων, ακόμη και οι φαινομενικά καινοτόμες πολιτικές ιδέες γύρω από την ΓΤΝ αποτυγχάνουν να ενθουσιάσουν. Πάρτε την πρόσφατη πρόταση για ένα “Σχέδιο Μανχάταν για την ασφάλεια της ΓΤΝ”. Αυτό βασίζεται στην εσφαλμένη ιδέα ότι δεν υπάρχει εναλλακτική λύση στην ΓΤΝ

Αλλά δεν θα ήταν πολύ πιο αποτελεσματική η προσπάθειά μας για την αύξηση της νοημοσύνης αν η κυβέρνηση χρηματοδοτούσε ένα Σχέδιο Μανχάταν για τον πολιτισμό και την εκπαίδευση και τα ιδρύματα που τα καλλιεργούν;

Χωρίς τέτοιες προσπάθειες, οι τεράστιοι πολιτιστικοί πόροι των υφιστάμενων δημόσιων ιδρυμάτων μας κινδυνεύουν να γίνουν απλά σύνολα δεδομένων εκπαίδευσης για τις νεοσύστατες επιχειρήσεις ΓΤΝ, ενισχύοντας το ψεύδος ότι η κοινωνία δεν υπάρχει.

Ανάλογα με το πώς (και αν) θα εξελιχθεί η εξέγερση των ρομπότ, η ΓΤΝ μπορεί να αποδειχθεί ή να μην αποδειχθεί υπαρξιακή απειλή. Αλλά με την αντικοινωνική του κλίση και τις νεοφιλελεύθερες προκαταλήψεις του, ο ΓΤΝ-ισμός είναι ήδη: Δεν χρειάζεται να περιμένουμε τις μαγικές ρομποτικές σκούπες για να αμφισβητήσουμε τα δόγματά του.