Shoshana Zuboff: «Η ιδιωτικότητα έχει σβήσει. Τώρα είναι ζόμπι»

Η Silicon Valley ζει αβέβαιες στιγμές. Οι εταιρείες τεχνολογίας απολύουν προσωπικό που προσέλαβαν στην πανδημία. Το Twitter, υπό τον Ίλον Μασκ, απώθησε τους διαφημιστές. Η Apple, η αυτοαποκαλούμενη πρωταθλήτρια της ιδιωτικότητας (προσωπικό απόρρητο), θέλει να μειώσει την επιρροή της Google. Είναι δυνατό να φανταστεί κανείς ότι η ψηφιακή άγρια δύση θα γίνει πιο ήπια.

Ωστόσο, για τους επικριτές των μεγάλων τεχνολογικών εταιρειών (Big Tech), η ανακούφιση είναι μικρή. Η Shoshana Zuboff, επίτιμη καθηγήτρια στο Harvard Business School, δημοσίευσε το 2019 την Εποχή του Καπιταλισμού της Παρακολούθησης (The Age of Surveillance Capitalism)– μια μελέτη για το πώς οι εταιρείες τεχνολογίας είχαν κερδίσει δισεκατομμύρια δολάρια απομυζώντας ιδιωτικά δεδομένα. «Νομίζαμε ότι αναζητούσαμε εμείς στη Google, αλλά ήταν η Google που έκανε αναζητήσεις σε εμάς», συνόψισε.

Γερμανία: Προσλαμβάνει τους απολυμένους της Silicon Valley

Σήμερα είναι απογοητευμένη που οι προσπάθειες να περιοριστούν οι εταιρείες τεχνολογίας είναι τόσο κατακερματισμένες. «Έχουμε φανταστικούς μελετητές, ερευνητές, υποστηρικτές που επικεντρώνονται στην ιδιωτικότητα, άλλους που επικεντρώνονται στην παραπληροφόρηση, άλλους που επικεντρώνονται στη σχέση με τη δημοκρατία», λέει, όταν συναντηθήκαμε στο Λονδίνο. Αυτή η «Βαλκανικοποίηση» (σ.σ. κατακερματισμός) μειώνει την ικανότητα εντοπισμού της «πραγματικής πηγής βλάβης»: τα δεδομένα των ανθρώπων αντιμετωπίζονται ως πόρος χωρίς κόστος, όπως τα δάση και άλλα μέρη της φύσης κατά τους προηγούμενους αιώνες.

Η Zuboff παρουσιάζει στοιχεία ότι στις ΗΠΑ, που δεν έχει ομοσπονδιακό νόμο περί απορρήτου, η τοποθεσία που βρίσκεται κάθε άτομο αποκαλύπτεται 747 φορές την ημέρα. Στην ΕΕ, η οποία λέει ότι έχει την «καλύτερη εποπτεία», οι φορές αυτές είναι 376. «Είναι καλύτερη (η κατάσταση), αλλά δεν είναι αρκετά καλύτερη», λέει. Ο Mark Zuckerberg σας υποσχέθηκε κάποτε ότι μοντέλο πρόβλεψης θα σας έλεγε, φτάνοντας σε μια παράξενη πόλη, σε ποιο μπαρ να πάτε και ένας μπάρμαν θα είχε ήδη ετοιμάσει το αγαπημένο σας ποτό. Αυτό το όνειρο έχει ξεθωριάσει μόνο με βάση την πρακτικότητα, όχι με βάση την αρχή.

Σε έγγραφο που δημοσιεύθηκε τον Νοέμβριο, η Zuboff υποστήριξε ότι η Apple και η Google εξόπλισαν με ισχυρό τρόπο ευρωπαίους αξιωματούχους στο χώρο της υγείας σχετικά με την τεχνολογία εντοπισμού της πανδημίας. «Είναι δυνατό να υπάρχει καπιταλισμός επιτήρησης («surveillance capitalism») και είναι δυνατόν να υπάρξει δημοκρατία. Δεν γίνεται να έχεις και τα δύο», έγραψε. Η Apple είχε δημιουργήσει την ψευδαίσθηση ότι ενεργούσε ως Ρομπέν των Δασών, όταν μόνο η δημοκρατική εποπτεία μπορούσε να προστατεύσει τα ατομικά δικαιώματα.

Θεωρεί τη δράση της κατά της Google ως απλώς μια «επέκταση» του καπιταλισμού επιτήρησης. Οι υποσχέσεις του Tim Cook για προστασία του απορρήτου μπορούν να αποσυρθούν ανά πάσα στιγμή: «Οι χρήστες δεν έχουν λόγο», λέει.

Η τεχνολογική επιτήρηση έχει σημασία, υποστηρίζει η Zuboff, επειδή μας στερεί την «εσωτερικότητα που συντηρεί τη ζωή». Ούτε τα άτομα μπορούν, ρεαλιστικά, να εξαιρεθούν από μόνα τους (από την παρακολούθηση των Big Tech). Αυτό που χρειαζόμαστε είναι το δικαίωμα να υπάρχει ένα καταφύγιο.

Πέρυσι οι Βρυξέλλες εισήγαγαν τον Νόμο για τις Ψηφιακές Υπηρεσίες και τον Νόμο για τις Ψηφιακές Αγορές, την πιο ολοκληρωμένη τεχνολογική νομοθεσία τους μέχρι σήμερα. Το βρετανικό κοινοβούλιο συζητά επί του παρόντος το νομοσχέδιο για την ασφάλεια στο διαδίκτυο. Η Zuboff θέλει αυτά να είναι σκαλοπάτι (για περαιτέρω δράση).

***

Συνήθως στις συνεντεύξεις σε εφημερίδες, ο δημοσιογράφος κάνει ερωτήσεις και ο ερωτώμενος απαντά σε αυτές. Μια συνέντευξη με την Zuboff όμως είναι διαφορετική. Κάνεις ερωτήσεις και τις περισσότερες φορές απαντά ξεκινώντας από τις πρώτες αρχές – με βήμα προς βήμα εξηγήσεις για το πώς πιστεύει ότι ο καπιταλισμός επιτήρησης έχει επικρατήσει αυτόν τον αιώνα.

Η Zuboff περιγράφει ιδιαίτερα το πώς παρουσιάζονται, το πώς διαμορφώνονται τα πράγματα, ακόμη και για το τι στυλό χρησιμοποιεί. Σκέφτεται κάθε λεπτομέρεια. «Σου αποσπά την προσοχή αν σταθώ; θα καθίσω. Συνήθως περπατάω και μιλάω», λέει όταν ξεκινάμε.

Ένα τέτοιο μυαλό έχει, στην τεχνολογική ορολογία, συγκεκριμένη λειτουργία, δεν λειτουργεί παράξενα. Επιτρέπει στην Zuboff να έχει μεγάλη προβολή. Το 1988 δημοσίευσε την Εποχή της Έξυπνης Μηχανής (Age of the Smart Machine), η οποία υποστήριξε ότι οι υπολογιστές θα άλλαζαν τις εταιρείες με τρόπο που δεν είχαν αλλάξει οι προηγούμενες τεχνολογίες. Αργότερα διηύθυνε το Odyssey, ένα εκπαιδευτικό πρόγραμμα του Harvard Business School για να βοηθήσει επιτυχημένους ανθρώπους να αποφασίσουν πώς να περάσουν το μεταγενέστερο μέρος της ζωής τους.

Το έργο της στον καπιταλισμό επιτήρησης ήταν η δική της άνθηση στα τέλη της καριέρας της. Δημοσιεύτηκε όταν ήταν 67 ετών, όταν κεραυνός έκαψε το οικογενειακό της σπίτι στο Μέιν και μετά τον απροσδόκητο θάνατο του συζύγου της και συν-συγγραφέα, του επιχειρηματία Τζιμ Μάξμιν.

Η Zuboff υποστηρίζει ότι οι εταιρείες τεχνολογίας γνώριζαν ότι το κοινό δεν θα υποστήριζε ποτέ τη συλλογή δεδομένων από αυτές. «Από την αρχή, κατανοήθηκαν (οι προσπάθειες αυτές) ως πράγματα που έπρεπε να είναι μυστικά, έπρεπε να καμουφλάρονται από τους χρήστες, μήπως προκαλέσουν αντιδράσεις». Επικαλείται στέλεχος της Google που είπε: «Δεν θα κάνει τους ανθρώπους να ανατριχιάσουν εάν ξέρουν το πόσο πολύ προσέχουμε;» (τι κάνουν)

Σήμερα οι εταιρείες τεχνολογίας «γίνονται πολύ πιο απρόθυμες να κατοχυρώσουν με δίπλωμα ευρεσιτεχνίας τις ανακαλύψεις τους, επειδή δεν θέλουν το κοινό να γνωρίζει ακριβώς τι κάνουν. Στις περισσότερες περιπτώσεις δεν διαθέτουν πλέον τα δικά τους δεδομένα στους ερευνητές».

Έτσι η Zuboff βλέπει την ανάγκη να υπάρξει ρυθμιστική προσπάθεια. Οι τεχνολογικοί νόμοι της ΕΕ θα δημιουργήσουν «νέα στελέχη ανθρώπων με νέους συνδυασμούς δεξιοτήτων που θα ενταχθούν στις εταιρείες. Η αποστολή τους θα είναι να σηκώσουν την κουκούλα, να καταλάβουν τι πραγματικά συμβαίνει. Ένα από τα τεράστια προβλήματα που έχουμε είναι ότι οι περισσότερες από τις πληροφορίες που προέρχονται από τις εταιρείες είναι σκόπιμα σχεδιασμένες για να είναι παραπλανητικές. Η ψυχολογική εκμετάλλευση («gaslighting») είναι μια μορφή τέχνης που πραγματικά ασκείται από αυτές τις εταιρείες».

Η Zuboff σπάνια χρησιμοποιεί σύντομες απαντήσεις ή απλή ορολογία. Ωστόσο, απαντά άμεσα για την εποπτεία περιεχομένου – τις προσπάθειες των εταιρειών να αφαιρέσουν επιβλαβές περιεχόμενο – τις οποίες περιγράφει ως «κινούμενη άμμο …μια εντελώς χαμένη προσπάθεια, σχεδιασμένη στην πραγματικότητα για να μας απασχολεί όσο το δυνατόν περισσότερο, ώστε να μπορούν να συνεχίσουν να ξεφεύγουν από αυτό που πραγματικά κάνουν».

Είναι πιο θετική για τον κατάλληλο σχεδιασμό (ψηφιακών προϊόντων) με βάση την ηλικία, όπου οι πλατφόρμες έχουν σχεδιαστεί για να ελαχιστοποιούν τις βλάβες στα παιδιά και να συλλέγουν λιγότερα δεδομένα από αυτά. Το Ηνωμένο Βασίλειο πρωτοστάτησε σε σχεδιασμό κατάλληλο για διαφορετικές ηλικίες, αλλά μετά το Brexit θα μείνει πίσω από τον πιο ισχυρό σχεδιασμό των Βρυξελλών ενάντια στον καπιταλισμό παρακολούθησης, λέει η Zuboff. Βλέπει επίσης «μια κίνηση για την αποδυνάμωση και τη μετουσίωση του υπάρχοντος καθεστώτος προστασίας δεδομένων με ένα νομοσχέδιο για την προστασία δεδομένων που ευνοεί τις μεγάλες εταιρείες τεχνολογίας και διαιωνίζει την λανθασμένη ιδέα ότι η δημοκρατία πρέπει να βγει από τη μέση».

***

Το πρόβλημα για τους υποστηρικτές της ιδιωτικής ζωής είναι ότι η προσπάθειά τους φαίνεται να τους προσφέρει πολύ λίγα πλεονεκτήματα και πάρα πολλά μειονεκτήματα. Για τους περισσότερους ευρωπαίους πολίτες, ο μεγαλύτερος αντίκτυπος της νομοθεσίας περί απορρήτου είναι τα ενοχλητικά αναδυόμενα cookies. Ο επιβολή του κανονισμού φαίνεται ανέφικτη: το Ηνωμένο Βασίλειο και η Γαλλία ήθελαν και οι δύο να θέσουν όρια ηλικίας στους ιστότοπους πορνό, αλλά μέχρι στιγμής δεν έχουν βρει αποτελεσματικούς τρόπους για να το κάνουν.

Ομοίως, η Zuboff επικρίνει την Apple και την Google για τον έλεγχο της ανίχνευσης του Covid -αλλά τι θα γινόταν αν το σύστημά τους λειτουργούσε απλώς καλύτερα από το συγκεντρωτικό σύστημα που προτιμούν οι Ευρωπαίοι αξιωματούχοι υγείας; Γελάει με την πρόταση. Ωστόσο, παραδέχεται ότι η εποπτική ρύθμιση παρεμποδίζεται «επειδή δεν μπορούμε να μπούμε στις [εταιρείες τεχνολογίας] για να μάθουμε τι πραγματικά συμβαίνει. Ρυθμίζουμε με παρωπίδες. . . Δεν καταλαβαίνουμε αρκετά καλά τον αντίπαλό μας», λέει.

Η Zuboff επιμένει ότι η επίθεση που κάνει δεν είναι εναντίον της ίδιας της τεχνολογίας, αλλά της οικονομικής λογικής που τη στηρίζει — την «κλοπή» όπως τη λέει. Υποστηρίζει την πιθανότητα να χρησιμοποιήσουμε δεδομένα και προβλέψεις για το κοινό καλό. Το αντεπιχείρημα είναι ότι υπάρχουν σημαντικές παραχωρήσεις. Οι υπηρεσίες τεχνολογίας, είτε για την πρόβλεψη λειτουργίας παροχής απαντήσεων κειμένου είτε για τις ταχύτερες διαδρομές οδήγησης, μπορούν να λειτουργήσουν μόνο με τη συγκέντρωση δεδομένων και τη μείωση του απορρήτου μας.

Ρωτώ τι πιστεύει για την ιδιοκτησία του Twitter από τον Μασκ. «Έχουμε πολιτικούς, νομοθέτες, εκλεγμένους αξιωματούχους, καθώς και ολόκληρους πολίτες, που επικεντρώνονται σε έναν άνθρωπο και ρωτούν «τι θα κάνει;» Η πολιτική μας σταθερότητα, η ικανότητά μας να γνωρίζουμε τι είναι αλήθεια και τι ψέμα, η υγεία και σε κάποιο βαθμό η λογική μας αμφισβητείται σε καθημερινή βάση ανάλογα με τις αποφάσεις που αποφασίζει να λάβει ο κ. Μασκ. Το θεωρώ αυτό ως θεμελιωδώς απαράδεκτο». . . Αυτοί οι χώροι δεν μπορούν να υπάρχουν αποκλειστικά υπό τον εταιρικό έλεγχο». . . Βρισκόμαστε εδώ και δύο δεκαετίες στην ψηφιακή εποχή, αλλά ποτέ, ως δημοκρατίες, δεν κάναμε απολογισμό της σημασίας αυτών των τεχνολογιών».

Ο Μασκ επανέφερε τον Ντόναλντ Τραμπ στο Twitter. Η αναστολή του πρώην προέδρου των ΗΠΑ από το Facebook θα λήξει «τις επόμενες εβδομάδες», δήλωσε η μητρική εταιρεία Meta. Η Ζούμποφ είναι αγανακτισμένη. «Δεν πρέπει να είναι αυτή μια απόφαση που ανήκει σε άτομα όπως ο Μασκ ή ο Ζάκερμπεργκ ή οποιοσδήποτε άλλος». Οι επιπτώσεις στη δημοκρατία είναι πολύ μεγάλες. «Σε έναν πολιτισμό της πληροφορίας, οι χώροι πληροφόρησής μας πρέπει να υπάρχουν σύμφωνα με το δημόσιο δίκαιο και να διέπονται από δημοκρατικούς θεσμούς». . . Με τύχη και αποφασιστικότητα θα ανατρέξουμε στις μέρες των ολιγαρχών της πληροφορίας όπως ο Μασκ και ο Ζάκερμπεργκ ως τα πρώτα πρώιμα λάθη ενός νέου πολιτισμού», λέει.

Συγκρίνει τους τεχνολογικούς γίγαντες της Δύσης με το κράτος επιτήρησης της Κίνας. «Αυτός είναι ένας κόσμος στον οποίο η ιδιωτικότητα έχει σβήσει. Το απόρρητο είναι πλέον ζόμπι. Κανείς από εμάς δεν έχει ιδιωτικότητα, ακόμα και όπως το σκεφτόμασταν το 2000.»

Η αίσθηση της δυστοπίας της είναι σπλαχνική. «Κάποιος μόλις εφηύρε έναν τύπο μπογιάς που μπορείς να βάλεις στο πρόσωπό σου και μπερδεύει την αναγνώριση προσώπου. Οι νέοι στο Reddit είναι ενθουσιασμένοι με αυτό. Αυτό είναι φοβερό!», λέει.

Η κατάργηση του καπιταλισμού επιτήρησης απαιτεί νέους νόμους που επιτρέπουν στις κοινωνίες να αποφασίζουν «τι γίνεται με τα αρχικά δεδομένα, τι μοιραζόμαστε, με ποιον και για ποιο σκοπό».

Όμως, η τεχνολογία προχωρά, ιδιαίτερα με τη μορφή τεχνητής νοημοσύνης. «Το ChatGPT μας έχει ταράξει. Έχει συγκλονίσει τους ανθρώπους, αναγκάζοντάς μας να αναγνωρίσουμε πόσο μακριά έχει προχωρήσει η τεχνητή νοημοσύνη, χωρίς ουσιαστικά κανένα νόμο και δημοκρατική διακυβέρνηση να διαμορφώσει ή να περιορίσει την ανάπτυξη και την εφαρμογή της». Η ανάπτυξη της τεχνητής νοημοσύνης βασίζεται στην κλοπή ανθρώπινων δεδομένων, υποστηρίζει. Επισημαίνει τον προτεινόμενο νόμο της ΕΕ για την τεχνητή νοημοσύνη — «τον πρώτο νόμο που επιβεβαιώνει τη δημοκρατική διακυβέρνηση στην εφαρμογή της τεχνητής νοημοσύνης». Αλλά είναι δύσκολο να μην αισθανθείς ότι, ακόμη και όταν η Silicon Valley σκοντάφτει, παραμένει ένα βήμα μπροστά.