Οι στόχοι που κωδικοποιούνται στα συστήματα τεχνητής νοημοσύνης αντικατοπτρίζουν τελικά τις προτεραιότητες εκείνων που ελέγχουν τα «μέσα πρόβλεψης».

Βιβιλοκριτική του The Means of Prediction: How AI Really Works (and Who Benefits) του  Maximilian Kasy (University of Chicago Press, 2025) από τον Γιώργο Γαλανή

Όταν ένας αλγόριθμος πρόβλεψης αρνήθηκε σε χιλιάδες μαύρους αιτούντες δίκαιες εγκρίσεις στεγαστικών δανείων το 2019, δεν επρόκειτο για σφάλμα αλλά για επιλογή σχεδιασμού που αντικατοπτρίζει τις προτεραιότητες των κολοσσών της τεχνολογίας των οποίων οι επιλογές γίνονται με στόχο την μεγιστοποίηση του κέρδους. Στο βιβλίο The Means of Prediction: How AI Really Works (and Who Benefits), ο καθηγητής οικονομικών στην Οξφόρδη, Maximilian Kasy υποστηρίζει ότι τέτοια αποτελέσματα δεν είναι ατυχήματα της τεχνολογίας αλλά τα προβλέψιμα αποτελέσματα του ποιος την ελέγχει.

Όπως ο Καρλ Μαρξ εντόπισε τον έλεγχο των μέσων παραγωγής ως βάση της ταξικής εξουσίας, ο Kasy εντοπίζει τα «μέσα πρόβλεψης» (δεδομένα, υπολογιστική υποδομή, τεχνική εξειδίκευση και ενέργεια) ως θεμέλιο της εξουσίας στην εποχή της Τεχνητής Νοημοσύνης (ΤΝ). Ως εκ τούτου, η ΤΝ γίνεται πεδίο μάχης, όπου οι αλγόριθμοι διαμορφώνουν το μέλλον για να εξυπηρετούν τους ιδιοκτήτες τεχνολογίας αντί για την εργατική τάξη. Η προκλητική θέση του Kasy αποκαλύπτει ότι οι στόχοι της ΤΝ είναι σκόπιμες επιλογές, κωδικοποιημένες από εκείνους που ελέγχουν τους πόρους της για να ευνοούν το κέρδος αντί για το κοινωνικό καλό. Μόνο με την επιβολή δημοκρατικού ελέγχου των μέσων πρόβλεψης μπορούμε να διασφαλίσουμε ότι η ΤΝ εξυπηρετεί την κοινωνία συνολικά αντί για τα κέρδη των καπιταλιστών της ΤΝ.

Ο Kasy ξεκινά απομυθοποιώντας την ΤΝ, θεμελιώνοντας την στην τεχνική της μηχανικής μάθησης (Machine Learning), όπου οι αλγόριθμοι προβλέπουν μελλοντικά αποτελέσματα βασισμένα σε παρελθοντικά δεδομένα. Αλλά ποια μελλοντικά αποτελέσματα προγραμματίζονται οι αλγόριθμοι να προβλέψουν; Οι πλατφόρμες κοινωνικής δικτύωσης (social media), για παράδειγμα, συλλέγουν τεράστιο όγκο δεδομένων χρηστών για να προβλέψουν ποιες διαφημίσεις μεγιστοποιούν τα κλικ, άρα μεγιστοποιούν τα προσδοκώμενα κέρδη. Μελετώντας τη δραστηριότητα των χρηστών, οι αλγόριθμοι έχουν μάθει ότι ο θυμός, η ανασφάλεια και ο φθόνος κρατούν τους χρήστες να σκρολάρουν στα κινητά τους. Το αποτέλεσμα είναι μια έκρηξη άγχους, στέρησης ύπνου και δυσφορίας για την εικόνα σώματος –ιδιαίτερα μεταξύ των εφήβων– που οφείλεται σε αλγοριθμική σύγκριση και στοχευμένη διαφήμιση.

Τα εργαλεία πρόβλεψης που χρησιμοποιούνται στα πλαίσια του κράτους πρόνοιας ή της διαδικασίας πρόσληψης στην εργασία παράγουν παρόμοια αποτελέσματα. Συστήματα σχεδιασμένα να επισημαίνουν αιτούντες «υψηλού κινδύνου» βασίζονται σε ιστορικά δεδομένα που φέρουν ορισμένες προκαταλήψεις (biases), αυτοματοποιώντας ουσιαστικά τις διακρίσεις, στερώντας παροχές ή συνεντεύξεις εργασίας σε ήδη περιθωριοποιημένες ομάδες. Ακόμα και όταν η ΤΝ φαίνεται να προάγει την ποικιλομορφία (diversity), συνήθως το κάνει επειδή η ένταξη διαφορετικών ομάδων ενισχύει την κερδοφορία — για παράδειγμα, βελτιώνοντας την απόδοση της ομάδας ή τη φήμη της εταιρείας. Σε τέτοιες περιπτώσεις, έχει προγραμματιστεί ένα «βέλτιστο» επίπεδο ποικιλομορφίας: αυτό που μεγιστοποιεί τα αναμενόμενα κέρδη. Ο Kasy εξερευνά επίσης τον αυξανόμενο ρόλο της ΤΝ στην εργασία και την αυτοματοποίηση. Στους χώρους εργασίας, η ΤΝ μπορεί είτε να ενισχύει τις ανθρώπινες ικανότητες είτε να τις αντικαθιστά πλήρως, οδηγώντας κάποιους στην ανεργία, ενώ συγκεντρώνει πλούτο για λίγους.

Αυτή η τεχνική σαφήνεια θέτει το σκηνικό για το ευρύτερο επιχείρημα του Kasy: η ΤΝ δεν αφορά μόνο την πρόβλεψη αλλά το τι προβλέπεται και για ποιον. Η συλλογή και ανάλυση δεδομένων μπορεί πράγματι να προάγει δημόσια αγαθά όπως η ιατρική έρευνα και η εκπαίδευση βελτιώνοντας τις υγειονομικές υπηρεσίες και διευρύνοντας τις ανθρώπινες ικανότητες. Ωστόσο, οι στόχοι που κωδικοποιούνται στα συστήματα ΤΝ αντικατοπτρίζουν τελικά τις προτεραιότητες εκείνων που ελέγχουν τα «μέσα πρόβλεψης». Αν οι εργάτες, αντί για τους εταιρικούς ιδιοκτήτες, κατεύθυναν την τεχνολογική ανάπτυξη, όπως προτείνει ο Kasy, οι αλγόριθμοι μπορεί να δώσουν προτεραιότητα σε δίκαιους μισθούς, εργασιακή ασφάλεια και δημόσια πρόνοια αντί για το κέρδος.

Αλλά πώς μπορούμε να πάρουμε δημοκρατικό έλεγχο των μέσων πρόβλεψης; Με παρόμοιο τρόπο με τον Erik Olin Wright — που υποστήριζε έναν συνδυασμό στρατηγικών στο How to Be an Anticapitalist in the Twenty-First Century — ο Kasy προτείνει επίσης μια σειρά συμπληρωματικών δράσεων αντί για μία μόνο λύση. Αυτές περιλαμβάνουν φόρους για την κάλυψη κοινωνικών κόστων, κανονισμούς για την απαγόρευση βλαβερών πρακτικών δεδομένων και συλλογικούς θεσμούς που διαχειρίζονται δεδομένα εκ μέρους κοινοτήτων για δημόσιους σκοπούς όπως η έρευνα υγείας. Οι φορείς αλλαγής, κατά την άποψη του Kasy, δεν μπορεί να είναι οι ίδιες οι τεχνολογικές εταιρείες, των οποίων η κύρια υποχρέωση είναι προς τους μετόχους. Αντίθετα, η αλλαγή πρέπει να οδηγείται από εργάτες, καταναλωτές, δημοσιογράφους και πολιτικούς που μπορούν να ασκήσουν στρατηγική πίεση μέσω διαφόρων μέσων: από απεργίες έως μποϊκοτάζ, δημόσιες παρεμβάσεις, δικαστικές αγωγές και κανονισμούς.

Η δύναμη του βιβλίου έγκειται στη σύνδεση του τεχνικού σχεδιασμού της ΤΝ με την πολιτική της οικονομία. Ο Kasy παρέχει μια κρίσιμη τεχνική βάση, δείχνοντας πώς οι αλγόριθμοι κωδικοποιούν μορφές επιβολής εξουσίας, όπως φαίνεται στο δικαστικό εργαλείο ΤΝ Correctional Offender Management Profiling for Alternative Sanctions (COMPAS), το οποίο δυσανάλογα επισημαίνει μαύρους κατηγορουμένους ως υψηλού κινδύνου, εδραιώνοντας τον συστημικό ρατσισμό. Το έργο του λειτουργεί ως ο χαμένος κρίκος σε ευρύτερες κριτικές από τον Cédric Durand και τον Γιάνη Βαρουφάκη για την «τεχνο-φεουδαρχία» και το Surveillance Capitalism της Shoshana Zuboff, που αποκαλύπτουν τα κέρδη τύπου ενοικίου των ψηφιακών πλατφορμών και την εμπορευματοποίηση δεδομένων.

Ο Kasy μοναδικά θεμελιώνει αυτές τις κριτικές στη τεχνική μηχανική της ΤΝ. Τέτοιοι αλγόριθμοι αποφασίζουν ποιος προσλαμβάνεται, λαμβάνει ιατρική φροντίδα ή βλέπει ποιες ειδήσεις, συχνά δίνοντας προτεραιότητα στο κέρδος αντί για την κοινωνική ευημερία. Παρομοιάζει την ιδιωτικοποίηση δεδομένων με την ιστορική περίφραξη των κοινών, υποστηρίζοντας ότι ο έλεγχος των τεχνογίγαντων στα μέσα πρόβλεψης συγκεντρώνει εξουσία, υπονομεύει τη δημοκρατία και βαθαίνει την ανισότητα.

Από αλγορίθμους δικαστηρίων έως ροές κοινωνικής δικτύωσης, τα συστήματα ΤΝ διαμορφώνουν ολοένα και περισσότερο τις ζωές μας με τρόπους που αντικατοπτρίζουν τις ιδιωτικές προτεραιότητες των δημιουργών τους. Ως εκ τούτου, δεν πρέπει να θεωρούνται ουδέτερα τεχνολογικά θαύματα αλλά συστήματα διαμορφωμένα από κοινωνικές και οικονομικές δυνάμεις. Η πραγματική σύγκρουση δεν βρίσκεται μεταξύ ανθρώπων και μηχανών, όπως στην εξέγερση ρομπότ του Terminator, αλλά μεταξύ των τεχνο-καπιταλιστών που ελέγχουν τις μηχανές και των υπολοίπων από εμάς. Το μέλλον της ΤΝ δεν εξαρτάται από την ίδια την τεχνολογία αλλά από την συλλογική μας ικανότητα Να χτίσουμε κοινούς συνεταιρσμούς δεδομένων που θα λειτουργούν δημοκρατικά και θα συμβάλλουν στη διακυβέρνηση της ΤΝ. Ο Kasy μας υπενθυμίζει ότι η ΤΝ δεν είναι αυτόνομη δύναμη αλλά κοινωνική σχέση, εργαλείο ταξικής εξουσίας που μπορεί να επανασχεδιαστεί για συλλογικούς σκοπούς. Το ερώτημα είναι αν έχουμε την πολιτική βούληση να αγωνιστούμε για τον δημοκρατικό έλεγχο της.

Μετάφραση του Άγγελου Κωσταμπάρη από το Jacobin.com