Sono quarant’anni che Shoshana Zuboff, professoressa di Harvard, studia il passaggio delle nostre società dalla materialità al nulla del ciberspazio. Oggi è una delle voci più ascoltate in ambito accademico, culturale e politico. Il suo libro Il capitalismo della sorveglianza (edito in Italia dalla Luiss) è un’immancabile citazione per chiunque scriva di tecnologia, di sociologia e anche di cucina.
Ultimamente, scossa dalla vicende del 6 gennaio 2021, la Zuboff è intervenuta sul “New York Times” con un lungo scritto. Vi espone le sue tesi sul colpo di stato epistemico del capitalismo della sorveglianza, Lo fa in modo ineccepibile, alle volte, anche brutale. Casomai non si capisse, come è avvenuto finora. Si può pure non condividere la sua spietata analisi e le sue inferocite conclusioni, ma non si possono certo ignorare. Sono temi nei quali siamo immersi fino al collo.
Invece delle leggi, paghiamo e teniamoci i dati
Beh, se non riusciamo a disintossicarci dai social media e dagli spesso inutili servizi gratuiti che ci sono continuamente proposti, allora abbiamo bisogno delle leggi. Ha ragione Shoshana. E le leggi, si sa, possono essere veramente dure quanto difficili da rispettare e da applicare.
Perché, invece delle leggi, non paghiamo qualche centesimo per avere questi servizi e ci teniamo NOI i nostri dati? È un investimento sicuro. In un futuro non lontano i nostri dati potrebbero essere un patrimonio importante come le azioni della Apple. Ma se ve l’hanno già espropriati, valgono niente. Valgono per chi se n’è appropriato in cambio di un servizietto superfluo.
Bisogna iniziare ad essere più selettivi. Come diceva Steve Jobs “adesso non possiamo far entrare tutti”. Il primo requisito è che le memorie delle nostre azioni e conversazioni risiedano sui nostri device e non sul cloud. Almeno questo possiamo farlo. E c’è già chi ce lo propone. Andiamo con loro! Qualche dura lex ce la risparmiamo.
Abbiamo tradotto integralmente in lingua italiana il contributo di Shoshana Zuboff apparso sul New York Times all’inizio di febbraio. Merita la lettura.
Evviva Internet?
Due decenni e mezzo fa, il governo americano ha lasciato aperta la porta d’ingresso della democrazia alle appena nate società di internet della Silicon Valley. Ha anche acceso un accogliente fuoco di benvenuto. Negli anni seguenti, in quelle stesse stanze è fiorita una società della sorveglianza, una sorta di mondo distopico nato dai bisogni distinti ma intersecanti delle agenzie pubbliche di intelligence e delle società private di internet, entrambe incantate dall’idea di un controllo totale delle informazioni. Vent’anni dopo, il fuoco è diventato un incendio e il 6 gennaio ha minacciato di bruciare la stessa casa della democrazia.
Ho passato 42 anni a studiare l’ascesa del digitale come forza economica guida della trasformazione verso una civiltà dell’informazione. Negli ultimi due decenni ho osservato le conseguenze di questo nuovo complesso economico-politico che si è formato sul lavoro delle giovani aziende di Internet che sono diventate imperi di sorveglianza basati su architetture globali di monitoraggio dei comportamenti, di analisi dei dati, di targeting e di previsione.
Ho chiamato questo complesso economico-sociale e politico il capitalismo di sorveglianza. Sulla capacità di sorveglianza di queste ormai non più giovani aziende di Internet, messa su al servizio della loro capitalizzazione, è stato portato avanti un colpo di stato epistemico fondamentalmente antidemocratico segnato da concentrazioni senza precedenti di conoscenza sociale la quale dà un potere inimmaginabile.
Un colpo di stato surrettizio
In una civiltà dell’informazione, le società sono definite dalla conoscenza, da come questa viene distribuita, dall’autorità che governa la sua diffusione e dal potere di chi protegge da tale autorità.
Chi sa? Chi è chi decide chi sa? Chi decide su chi decide chi sa?
I capitalisti della sorveglianza hanno le risposte ad ogni domanda, anche se non li abbiamo mai eletti in Parlamento. Questa è l’essenza del colpo di stato epistemico. Rivendicano l’autorità di decidere chi ha i diritti di proprietà sulle nostre informazioni personali e difendono questa autorità con la capacità di controllare i sistemi e le infrastrutture critiche dell’informazione.
Ecco che cavalcando l’onda di questo golpe ombra, perseguito negli ultimi due decenni dai media sociali che una volta abbiamo accolto come agenti di liberazione, Donald Trump ha tentato un golpe politico.
Il giorno dell’inaugurazione della nuova amministrazione, il presidente Biden ha detto che “la democrazia ha prevalso” e ha promesso di riportare il valore della verità al suo giusto posto nella società democratica. Tuttavia, la democrazia e la verità rimangono sotto scacco finché non sconfiggiamo l’altro colpo di stato, quello del capitalismo di sorveglianza.
I quattro stadi del colpo di stato epistemico
Il primo stadio è l’appropriazione dei diritti epistemici, che pone le basi per tutto ciò che segue. Il capitalismo della sorveglianza ha origine nella scoperta che le aziende possono utilizzare la vita delle persone come materia prima gratuita per l’estrazione di dati comportamentali, che poi dichiarano essere di loro proprietà privata.
Il secondo stadio è segnato da un forte aumento della disuguaglianza epistemica, definita come la differenza tra ciò che so e ciò che si può sapere di me.
La terza fase, che stiamo attualmente vivendo, introduce il caos epistemico causato dall’amplificazione algoritmica guidata dal profitto, dalla diffusione e dal microtargeting di informazioni false, molte delle quali prodotte da schemi coordinati di disinformazione. I suoi effetti si fanno sentire nel mondo reale, nel quale fratturano la verità condivisa, avvelenano il discorso pubblico, paralizzano la politica democratica e talvolta istigano alla violenza e all’uccisione.
Nella quarta fase, il dominio epistemico viene istituzionalizzato, sostituendo la governance democratica con la governance computazionale del capitale privato di sorveglianza. Le macchine sanno e i sistemi prendono le decisioni, guidati e sostenuti dall’autorità illegittima e dal potere antidemocratico del capitale privato di sorveglianza.
Ogni fase costruisce sulla precedente. Il caos epistemico prepara il terreno per il dominio epistemico indebolendo la società democratica. Tutto è emerso in modo fin troppo chiaro nell’insurrezione al Campidoglio degli Stati Uniti.
La sfida alla democrazia
Viviamo nel secolo digitale all’interno del processo storico di costruzione della civiltà dell’informazione. Il nostro tempo è paragonabile alla prima era dell’industrializzazione, quando i proprietari avevano tutto il potere e i loro diritti di proprietà si ergevano sopra ogni altra cosa.
La verità intollerabile della nostra condizione attuale è che l’America e la maggior parte delle altre democrazie liberali hanno, finora, ceduto la proprietà e il funzionamento di tutte le faccende digitali all’economia politica guidata dal capitale privato di sorveglianza, che ora contende alla democrazia i diritti fondamentali e i principi che definiranno il nostro ordine sociale in questo secolo.
Quest’ultimo anno di pandemia e l’autocrazia trumpiana hanno amplificato gli effetti del colpo di stato epistemico, rivelando il potenziale distruttivo dei media antisociali molto prima del 6 gennaio. Il crescente riconoscimento di quest’altro colpo di stato e delle sue minacce alle società democratiche ci costringerà finalmente a fare i conti con la scomoda verità che si è profilata negli ultimi due decenni?
La scomoda verità è: avremo la democrazia o avremo la società della sorveglianza, ma non possiamo averle entrambe. Una società di sorveglianza è un’impossibilità esistenziale e politica per una democrazia. Non sbagliatevi: questa è la lotta per l’anima della nostra civiltà dell’informazione.
Benvenuti nel terzo decennio del secolo digitale.
Intelligence e sorveglianza
La tragedia pubblica dell’11 settembre ha drammaticamente spostato il mondo politico dall’attenzione per della privacy all’ossessione per l’informazione e per l’intelligence abbracciando le pratiche innovative di sorveglianza della Silicon Valley come oggetti quasi di venerazione. Come ha osservato Jack Balkin, professore alla Yale Law School, l’intelligence si “è affidata all’impresa privata per raccogliere e generare informazioni per suo conto”, al fine di raggiungere, oltre i vincoli costituzionali, legali o normativi, i suoi obiettivi.
Nel 2013, il capo della tecnologia della CIA ha definito la missione dell’agenzia come quella di “raccogliere tutto e tenerlo per sempre”, riconoscendo alle società di internet, tra cui Google, Facebook, YouTube, Twitter e Fitbit e alle società di telecomunicazioni, di averla resa possibile.
Le radici rivoluzionarie del capitalismo della sorveglianza sono piantate nella dottrina politica non scritta dell’eccezionalismo della sorveglianza, che bypassa la supervisione democratica e concede, nella sostanza, alle nuove società di internet la licenza di appropriarsi dell’esperienza umana e incapsularla in dati proprietari.
Giovani imprenditori senza alcun mandato democratico hanno ottenuto la delega ad appropriarsi di informazioni infinite che le ha dotate di un potere irresponsabile. I fondatori di Google, Larry Page e Sergey Brin, hanno esercitato un controllo assoluto sulla raccolta, organizzazione e utilizzo delle informazioni del mondo. Mark Zuckerberg di Facebook ha avuto il controllo assoluto su quello che sarebbe diventato il mezzo primario di comunicazione globale e di consumo di notizie. Gli utenti sono cresciuti a dismisura mentre una popolazione globale abbracciava i servizi ignara del potere che stavano trasferendo ai gruppi della sorveglianza.
Lobbyng e opacità
La licenza di rubare surrettiziamente informazioni aveva, però, un suo prezzo. Richiedeva ai dirigenti delle società di Internet il continuo patrocinio nei confronti dei rappresentanti eletti e dei regolatori, così come implicava di mantenere nella caverna di Platone, o almeno nella rassegnazione passiva, i propri utenti. Il teorema era che la implementazione di questa dottrina valeva il complesso di manovre politiche, opacità, innovazione furiosa e ingenti investimenti che occorreva dispiegare.
Google ha aperto la strada con alcune iniziative che si sarebbero trasformate in una delle più ricche macchine lobbistiche del mondo. Nel 2018 quasi la metà del Senato ha ricevuto contributi da Facebook, Google e Amazon. Queste aziende continuano a stabilire record di spesa in lobbying.
Più significativo, l’eccezionalismo della sorveglianza ha mostrato che gli Stati Uniti e molte altre democrazie liberali hanno scelto la sorveglianza al posto della democrazia come principio guida dell’ordine sociale. Con questa rinuncia, i governi democratici hanno evirato la loro capacità di ricevere la fiducia del loro popolo, preferendo ad essa la logica della sorveglianza.
L’agnosticismo verso i dati
Per capire l’economia del caos epistemico è importante sapere che le operazioni del capitalismo di sorveglianza non hanno alcun interesse sostanziale e anche formale nei fatti e per i fatti. Tutti i dati sono raccolti come equivalenti, anche se, ovviamente, non tutti sono uguali. Le operazioni di estrazione procedono con la voracità di Koanashi (il demone senza volto de La città incantata di Myazaki), consumando avidamente tutto quello in cui si imbatte a prescindere dal suo significato, dai fatti, dalla verità e indifferente alle conseguenze che si possono produrre.
In un messaggio trapelato, un dirigente di Facebook, Andrew Bosworth, mostra il radicato disprezzo per la verità e il significato vero delle cose: “Noi connettiamo le persone. Ci può essere del buono se le persone lo rendono buono. Forse qualcuno trova l’amore. … Ci può essere anche del cattivo se le persone lo rendono cattivo. … Forse qualcuno muore in un attacco terroristico. …
“La verità è tutto ciò che ci permette di connettere più persone è de facto buono”.
In altre parole, chiedere a un estrattore di sorveglianza di rifiutare i contenuti è come chiedere a un minatore di scartare alcuni carelli di carbone perché troppo sporchi. Ecco perché la moderazione dei contenuti viene vista come l’ultima risorsa, una sorta di operazione di pubbliche relazioni nello spirito che è equiparable alla sincerità ecologica dei comunicatori di ExxonMobil.
Facebook, motore del caos epistemico
Nel caso di Facebook, il triage dei dati è intrapreso solo per minimizzare il rischio di abbandono degli utenti o per evitare sanzioni politiche. Entrambe le azioni mirano ad aumentare piuttosto che a diminuire l’afflusso di dati. L’imperativo dell’estrazione si combina con il furioso sforzo per produrre sistemi che aumentano incessantemente la scala dello sforzo estrattivo, senza preoccuparsi molto di che cosa succede in questo processo.
Ora mi sto concentrando su Facebook non perché sia l’unico responsabile del caos epistemico, ma perché è la più grande azienda di social media e le conseguenze delle sue azioni arrivano più lontano.
L’economia del capitalismo di sorveglianza ha generato il ciclope estrattivo, trasformando Facebook in un juggernaut pubblicitario e in un campo di sterminio della verità. Poi è successo che una persona amorale come Trump sia diventato presidente, con il proposito di mentire su larga scala. L’economia estrattiva si è fusa con l’appeasement nei confronti della politica, e tutto è diventato infinitamente peggiore.
La polveriera sociale di Facebook
La chiave di questa storia è il sostanziale rifiuto della politica di mitigare, modificare o eliminare la sgradevole verità dell’economia della sorveglianza. Gli imperativi economici del capitalismo di sorveglianza hanno trasformato Facebook in una polveriera sociale. Zuckerberg andava semplicemente fermato e relegato al ruolo di mero spettatore.
Una ricerca interna presentata nel 2016- 2017 ha dimostrato i fortissimi legami causali tra i meccanismi di targeting algoritmico di Facebook e il caos epistemico. Un ricerca ha concluso che gli algoritmi erano responsabili della diffusione virale di contenuti laceranti che hanno contribuito ad alimentare, per esempio, la crescita dei gruppi estremisti tedeschi. Gli strumenti di raccomandazione di Facebook producevano il 64% delle “adesioni a gruppi estremisti”. E questo è avvenuto non solo in Germania.
Lo scandalo Cambridge Analytica nel marzo 2018 ha attratto l’attenzione del mondo su Facebook in un modo nuovo, offrendo l’opportunità per un cambiamento coraggioso. Il pubblico ha iniziato a comprendere che il business della pubblicità politica di Facebook è un modo per microtargettizzare gli utenti, manipolarli e seminare il caos epistemico. Questo meccanismo fa virare la missione di Facebook da obiettivi commerciali a obiettivi politici.
Il disimpegno Facebook nei confronti del fact-checking
La società ha reagito con alcune iniziative di modesta entità. Ha promesso più trasparenza, un sistema più ampio di verificatori di terze parti e una politica per limitare “azioni coordinate eversive da parte dei suoi utenti”. Però Zuckerberg ha dato campo alle richieste di Trump per un accesso illimitato al flusso di informazioni globale.
Zuckerberg ha respinto le proposte interne di cambiamenti operativi che avrebbero ridotto il caos epistemico. Una “whitelist” politica ha individuato oltre 100.000 politici e candidati i cui account sono stati tenuti fuori dal fact-checking, malgardo che la ricerca interna dimostrasse che gli utenti tendono a prendere per buone le informazioni false che i politici postano o condividono. Nel settembre 2019 l’azienda ha detto che la pubblicità politica non sarebbe stata soggetta al fact-checking.
Nel 2018, per placare i critici, Zuckerberg ha commissionato un audit guidata da Laura Murphy, ex direttore dell’ufficio legislativo di Washington dell’ACLU (American Civil Liberties Union). Il rapporto pubblicato nel 2020 è un cri de coeur espresso in un fiume di parole che testimoniano un infinita disperazione. Vi compaiono espressioni come: “scoraggiato”, “frustrato”, “arrabbiato”, “costernato”, “spaventato”, “straziante”.
Il rapporto rispecchia la rottura quasi completa della fiducia del pubblico americano nel Big Tech.
Quando è stato chiesto come Facebook si sarebbe adattato a un cambiamento politico in caso di una possibile amministrazione Biden, il portavoce della società, Nick Clegg, ha risposto:
“Ci adatteremo all’ambiente in cui andremo ad operare”.
E così è stato. Il 7 gennaio, il giorno dopo che è diventato palese che i democratici avrebbero controllato il Senato, Facebook ha annunciato che avrebbe bloccato indefinitamente l’account di Trump.
Dove nasce il caos epistemico?
Siamo propensi a credere che gli effetti distruttivi del caos epistemico siano l’inevitabile costo dell’amato esercizio del diritto alla libertà di parola, sancito nel primo emendamento della Costituzione degli Stati Uniti d’America.
No, non è così! Proprio come i livelli catastrofici di anidride carbonica nell’atmosfera terrestre sono la conseguenza della combustione dei materiali fossili, il caos epistemico è una conseguenza delle operazioni commerciali di base del capitalismo della sorveglianza, aggravate dall’astensione dei politici e alimentate da un sogno ventennale di informazione totale, un sogno che si è trasformato i un incubo.
Poi una miccia è stata innescata in America, trasformando la conflagrazione dei media antisociali in un devastante incendio.
Il caos epistemico sulla pandemia
Già nel febbraio 2020, l’Organizzazione Mondiale della Sanità ha segnalato una “infodemia” di Covid-19. Subito sui social media hanno iniziato a diffondersi miti e voci incontrollate. A marzo, i ricercatori dell’Università del Texas M.D. Anderson Cancer Center hanno concluso che la disinformazione medica relativa al coronavirus è stata “propagata ad un ritmo allarmante sui social media”. Qualcosa che ha messo in pericolo la sicurezza pubblica.
Il “Washington Post” ha riferito alla fine di marzo 2020 che con quasi il 50% del contenuto sul news feed di Facebook relativo al Covid-19 era postato da un numero molto piccolo di “utenti influenti” che stavano indirizzando le abitudini di lettura e i feed di un gran numero di utenti.
Uno studio pubblicato in aprile dal Reuters Institute ha confermato che politici di alto livello, celebrità e altre figure pubbliche di spicco hanno prodotto solo il 20 per cento della disinformazione, ma hanno catalizzato il 69 per cento delle interazioni sui social media.
Uno studio pubblicato a maggio dall’Istituto britannico per il dialogo strategico ha identificato un nucleo di 34 siti web di estrema destra che diffondono direttamente la disinformazione sul Covid o sono collegati a centri di disinformazione sanitaria consolidati, ora scagliatisi sul Covid-19.
Da gennaio ad aprile del 2020, i post pubblici di Facebook che si collegano a questi siti web hanno ottenuto 80 milioni di interazioni, mentre i post che si collegano al sito web dell’OMS hanno ricevuto 6,2 milioni di interazioni, e i Centers for Disease Control and Prevention ne hanno avute 6,4 milioni.
La disinformazione sanitaria viaggia sui social media
Uno studio di Avaaz pubblicato in agosto ha rilevato che 82 siti web che diffondono disinformazione sul Covid, in aprile hanno raggiunto un picco di quasi mezzo miliardo di visualizzazioni su Facebook. Il contenuto dei 10 siti web più popolari ha attratto circa 300 milioni di visualizzazioni su Facebook, rispetto ai 70 milioni delle 10 istituzioni sanitarie leader. Gli sforzi di moderazione dei contenuti da parte di Facebook non sono mai e poi mai stati all’altezza dei suoi stessi meccanismi progettati per creare caos epistemico.
In ottobre un rapporto del National Center for Disaster Preparedness della Columbia University ha stimato il numero di morti evitabili per Covid-19. Sui più di 217.000 morti negli Stati Uniti, tragicamente, l’analisi ha concluso che almeno 130.000 di quelle morti avrebbero potuto essere evitate. Le quattro ragioni chiave citate, tra le quali la “mancanza di mascherina” e “la disinformazione”, riflettono l’orgia di caos epistemico che ha avviluppato gli Stati Uniti.
Quando il mondo è stato colpito da un microrganismo misterioso e mortale, ci siamo rivolti a Facebook in cerca di informazioni. E qui che cosa abbiamo trovato? Abbiamo trovato strategie letali di caos epistemico scatenate per massimizzare i profitti.
La costruzione sociale della realtà
Nel 1966, Peter Berger e Thomas Luckmann hanno scritto un libro, breve ma seminale, La realtà come costruzione sociale (ed. it. Il Mulino, Bologna). L’osservazione centrale del libro è che la “vita quotidiana” che sperimentiamo come “realtà” è attivamente e costantemente costruita da noi stessi. Questo produce un ordine sociale che si basa sulla “condivisione del senso comune”, che è “la conoscenza che spartiamo con gli altri nel normale dispiegarsi della vita quotidiana”.
Pensate al traffico. Non ci sono abbastanza vigili nel mondo per assicurare che ogni macchina si fermi ad ogni semaforo rosso, eppure ogni incrocio non scatena una negoziazione o un conflitto su chi deve passare prima. Questo perché nelle società ordinate sappiamo tutti che i semafori rossi hanno l’autorità di farci fermare e quelli verdi ci autorizzano a passare.
Questo condiviso senso comune fa sì che ognuno di noi agisca per quello che sa, confidando che anche gli altri lo facciano. Non stiamo solo obbedendo alle leggi; stiamo creando un ordine sociale condiviso. La ricompensa è che possiamo vivere in un mondo sicuro perché possiamo fidarci del reciproco buon senso. Nessuna società può esistere senza di esso.
Il terrorismo epistemico
“Tutte le società sono costruzioni per evitare il caos”, scrivono Berger e Luckmann. Poiché le norme sono la sintesi del nostro senso comune, la loro violazione è l’essenza del terrorismo — terrificante perché ripudia le certezze sociali più basilari.
“La violazione delle norme crea nel pubblico un sentimento che va al di là dell’obiettivo stesso del terrore”, scrivono Alex P. Schmid e Albert J. Jongman in Political Terrorism, un testo ampiamente citato sull’argomento. Tutti sperimentano lo shock, il disorientamento e la paura di fronte al terrorismo. La legittimità e la continuità delle nostre istituzioni sono essenziali perché ci proteggono dal caos e dal terrorismo dando forme giuridica al nostro senso comune.
La morte dei re e i passaggi pacifici di potere nelle democrazie sono momenti critici che aumentano la vulnerabilità dei sistemi politici. Le norme e le leggi che guidano questi delicati momenti sono giustamente cristalizzati in protocolli stilati con la massima attenzione e serietà.
Trump e i suoi alleati li hanno calpestati, perseguendo una campagna di disinformazione sulle elezioni che è sfociata in violenza. Trump ha preso di mira direttamente il punto di massima vulnerabilità istituzionale della democrazia americana e delle sue norme fondanti. Ha preso di mira la fase del passaggio di potere.
Tutto questo si configura come una forma di terrorismo epistemico, una manifestazione estrema del caos epistemico. La decisione di Zuckerberg di prestare la propria macchina mediatica a questa causa lo rende complice di questo assalto alla democrazia.
Oltre la casa base
Come il baseball, la realtà quotidiana è un’avventura che inizia e finisce alla casa base, dove siamo al sicuro. Nessuna società può sorvegliare sempre tutto, tanto meno una società democratica. Una società sana si basa su un consenso, su ciò che è una deviazione e su ciò che è normale. Ci avventuriamo fuori dalla norma, ma conosciamo la differenza tra il fuori campo e la casa base, la realtà della vita quotidiana.
Senza questo punto di riferimento, come abbiamo sperimentato, le cose vanno a pezzi. Democratici che bevono sangue? Certo, perché no? Idrossiclorochina per il Covid-19? Avanti c’è posto! Assaltare il Campidoglio e dare il potere a Trump? Sì, andiamo!
La società si rinnova con l’evolversi del senso comune. Questo richiede istituzioni affidabili, trasparenti e rispettose, specialmente quando si dissente da quello che succede. Invece ci ritroviamo con l’opposto. Da quasi 20 anni il mondo è dominato da un’istituzione politico-economica che opera come una macchina del caos a noleggio, in cui la violazione delle norme è la chiave della prosperità.
La fragilità del primo emendamento
I fondatori — non più giovani — dei social media difendono le loro macchine del caos con una interpretazione distorta dei diritti sanciti dal primo emendamento. I social media non sono una piazza pubblica, ma una piazza privata governata dalle operazioni delle macchine e dai loro imperativi economici, incapaci e disinteressati a distinguere la verità dalla menzogna o il rinnovamento dalla distruzione.
Per molti che considerano la libertà di parola un diritto sacro, l’opinione dissenziente del giudice (1919) Oliver Wendell Holmes in Abrams contro gli Stati Uniti è una pietra miliare. “Il bene ultimo desiderato è meglio raggiunto dal libero scambio di idee”, scrisse. “La migliore prova della verità è il potere del pensiero di farsi accettare nella competizione del mercato”.
L’informazione corrotta che domina la piazza privata non si fonda su una libera ed equa competizione di idee. Vince in un gioco truccato. Nessuna democrazia può sopravvivere a questo gioco.
La nostra suscettibilità alla distruzione del senso comune riflette le caratteristiche di una giovane civiltà dell’informazione che non ha ancora trovato il suo posto nella democrazia. Se non interrompiamo l’economia della sorveglianza e non revochiamo la licenza all’appropriazione dei dati che legittima operazioni antisociali dei capitalisti del controllo, l’idea del golpe continuerà a rafforzarsi e a produrre nuove crisi. Allora, che cosa bisogna fare adesso?
La mancata visione di un secolo digitale
Cominciamo con un esperimento mentale: immaginate un 20° secolo senza leggi pubbliche che regolino il lavoro minorile o impongano standard per i salari, gli orari e la sicurezza sul lavoro; senza diritti dei lavoratori di unirsi a un sindacato, scioperare o contrattare collettivamente. Immaginate una nazione senza diritti dei consumatori e senza istituzioni statali per supervisionare le leggi e le politiche destinate a rendere il secolo industriale un tempo dove sviluppare la democrazia.
Immaginate ora uno scenario diverso nel quale ogni azienda è lasciata da sola a decidere quali diritti riconoscere ai lavoratori e ai cittadini, quali politiche e pratiche impiegare nella sua azione e come distribuire i profitti.
Fortunatamente, questi diritti, leggi e istituzioni ci sono: sono stati ideati e costruiti da persone assennate nel corso di decenni all’interno delle democrazie in tutto il mondo. Per quanto importanti rimangano quelle straordinarie invenzioni, queste non ci proteggono dal colpo di stato epistemico e dai suoi effetti antidemocratici.
Questo problema riflette un modello più ampio: gli Stati Uniti e le altre democrazie liberali del mondo hanno finora fallito nel costruire una visione politica coerente per un prossimo venturo secolo digitale che promuova i valori, i principi e il governo democratico. I cinesi hanno progettato e utilizzato le tecnologie digitali per far progredire il loro sistema di governo autoritario, mentre l’Occidente è rimasto paralizzato e ambivalente.
Le conseguenze di questa mancata visione
Questo mancata visione ha lasciato un vuoto all’interno della democrazia. Il risultato pernicioso è stata la deriva di due decenni verso sistemi privati di sorveglianza e controllo comportamentale operanti al di fuori dei vincoli della governance democratica. Questa è la strada per attuare la fase finale del colpo di stato epistemico.
Il risultato è che le nostre democrazie vagano nude nel terzo decennio senza le nuove carte dei diritti, i rinnovati quadri giuridici e le forme istituzionali necessarie a garantire un futuro digitale che sia compatibile con le aspirazioni di una società democratica.
Siamo ancora agli albori di una civiltà dell’informazione. Il terzo decennio è la nostra opportunità di eguagliare l’ingegnosità e la determinazione dei nostri antenati del 20° secolo, costruendo le basi per un secolo digitale democratico.
La democrazia è sotto un tipo di assedio a cui solo la democrazia può porre rimedio. Se vogliamo sconfiggere il colpo di stato epistemico, la democrazia deve essere protagonista.
Elenco tre principi che possono aiutare a guidare questo processo.
La democrazia in movimento
Il digitale deve vivere e svilupparsi nella casa della democrazia, non come un piromane ma come un membro responsabile della famiglia, un membro soggetto alle sue leggi e ai suoi principi.
Il gigante addormentato della democrazia inizia finalmente a muoversi, con importanti iniziative legislative e giuridiche in America e in Europa.
Negli Stati Uniti, attualmente ci sono cinque disegni di legge completi, 15 disegni di legge in bozza e un’importante proposta legislativa. Ciascuno atto legislativo ha un significato preciso per il capitalismo della sorveglianza. Queste iniziative sono state introdotte nel Congresso tra il 2019 e la metà del 2020. Anche i californiani hanno accolto con favore una legislazione di riferimento per la tutela della privacy.
Nel 2020 la sottocommissione del Congresso sull’antitrust ha pubblicato un’analisi di vasta portata sui giganti della tecnologia. A ottobre il Dipartimento di Giustizia, affiancato da 11 stati, ha avviato una causa antitrust federale contro Google per abuso di potere dominante nella ricerca online. A dicembre la Federal Trade Commission ha presentato una causa storica contro Facebook per azioni anticoncorrenziali, che s’è congiunta con quella promossa da 48 procuratori generali. Queste azioni sono state rapidamente seguite da una causa lanciata da 38 procuratori generali che accusano Google di bloccare i concorrenti e privilegiare i propri servizi.
Ora, le azioni antitrust sono importanti per due motivi. Primo: mandano il segnale che la democrazia è in movimento. Secondo sanciscono una accresciuta attenzione normativa alle aziende con una posizione dominante sul mercato. Ma quando si tratta di sconfiggere il colpo di stato epistemico, il paradigma antitrust non è all’altezza. Ecco perché.
Perché l’azione dell’antitrust da sola non è sufficiente
L’azione antitrust nei confronti dei capitalisti della sorveglianza tende a riprodurre il percorso tracciato per combattere le pratiche anticoncorrenziali e le concentrazioni di potere economico dei monopoli della Gilded Age. Come ha spiegato Tim Wu, un esperto dell’antitrust, sul “Times”, “la strategia di Facebook è simile a quella di John D. Rockefeller alla Standard Oil negli anni 1880”.
“Entrambe le aziende scrutavano l’orizzonte del mercato alla ricerca di potenziali concorrenti e poi li compravano o li seppellivano”.
Ha aggiunto che “è stato proprio questo modello di business che il Congresso ha vietato nel 1890 con lo Sherman Antitrust Act”.
È vero che Facebook, Google e Amazon, tra gli altri, sono capitalisti spietati, ma l’attenzione esclusiva sul loro potere monopolistico in stile Standard Oil solleva due problemi.
In primo luogo, l’antitrust non è riuscito così bene, alla fine del 19° e all’inizio del 20° secolo, nel suo obiettivo di porre fine alle ingiuste concentrazioni di potere economico nell’industria petrolifera. Nel 1911 una decisione della Corte Suprema spezzò la Standard Oil in 34 compagnie dell’industria petrolifera.
Il valore combinato di queste società, alla fine, si rivelò più grande dell’originale. Le più abili delle 34 società presto replicarono l’infrastruttura e la scala della Standard Oil e da lì si mossero rapidamente verso fusioni e acquisizioni, costruendo veri e propri imperi basati sui combustibili fossili, tra cui Exxon e Mobil (che divenne ExxonMobil), Amoco e Chevron.
Un secondo e ben più significativo problema dell’azione antitrust è questo. Mentre può essere importante limitare le pratiche anticoncorrenziali in aziende spietate come le Big Tech, l’antitrust non è sufficiente a fronteggiare i danni causati da capitalismo di sorveglianza, certamente non più di quanto la decisione del 1911 abbia fronteggiato i danni derivanti dalla produzione e dal consumo di carburante fossile. Piuttosto che approcciare Facebook, Amazon o Google attraverso uno strumento del 19° secolo, dovremmo reinterpretare il caso della Standard Oil nella prospettiva del nostro secolo.
Affrontare il problema nell’ottica del 21 secolo
Facciamo un altro esperimento mentale. Immaginate che l’America del 1911 avesse il problema del cambiamento climatico. La decisione di spezzare la Standard Oil avrebbe messo fine alle pratiche anticoncorrenziali, ma avrebbe ignorato la circostanza molto più importante che l’estrazione, la raffinazione, la vendita e l’uso del petrolio avrebbero distrutto il pianeta. Se i giuristi e i legislatori dell’epoca avessero ignorato questo fatto, avremmo guardato alle loro azioni come una macchia sulla storia americana.
In effetti, la decisione della corte di allora ignorò le minacce molto serie dei trust di allora per i lavoratori e i consumatori americani. Uno storico del diritto americano, Lawrence Friedman, descrive lo Sherman Antitrust Act come “una sorta di frode” che ha realizzato ben poco oltre che soddisfare “bisogni politici”. Egli spiega che il Congresso “doveva rispondere alla richiesta di azione — ogni azione, qualsiasi azione — contro i trust” e, invece, quello che accadde fu una risposta nana. Allora come oggi, la gente vuole una risposta gigante.
Si rivolsero alla legge come l’unico mezzo che poteva raddrizzare l’equilibrio del potere. Ma ci sono voluti decenni perché i legislatori affrontassero finalmente le vere fonti di danno, codificando nuovi diritti per i lavoratori e i consumatori. Il National Labor Relations Act, che garantiva il diritto di sindacalizzazione e regolamentava le azioni dei datori di lavoro, non fu promulgato fino al 1935, 45 anni dopo lo Sherman Antitrust Act.
Noi non abbiamo 45 anni — o 20 o 10 anni — di tempo per affrontare i veri danni del golpe epistemico e le sue conseguenze.
Ci possono essere valide ragioni antitrust per spezzare i grandi imperi tecnologici, ma fare a pezzi Facebook o uno qualsiasi degli altri equivalenti capitalisti della sorveglianza di Exxon, Chevron e Mobil non ci proteggerà dai pericoli evidenti del capitalismo della sorveglianza. Il nostro tempo richiede di fare di più, molto di più.
Nuove condizioni richiedono nuove regole
Il diritto si sviluppa in risposta alle evoluzione della società. L’impegno del giudice Louis Brandeis per il diritto alla privacy, per esempio, fu stimolato dalla diffusione della fotografia e dalla sua capacità di invadere e rubare ciò che era considerato privato.
Una civiltà democratica dell’informazione non può progredire senza nuove regole sui diritti epistemici che proteggano i cittadini dall’invasione e dal furto su larga scala da parte dell’economia della sorveglianza. Durante la maggior parte dell’età moderna, i cittadini delle società democratiche hanno considerato l’esperienza di una persona come inseparabile dall’individuo stesso, come inalienabile.
Ne consegue che il diritto di possedere la propria esperienza è stato considerato fondamentale, legato alla personalità come lo è un ombra a un oggetto. Ognuno di noi decide se e come questa esperienza deve essere condivisa, con chi e per quale scopo.
Scrivendo nel 1967, il giudice William Douglas sostenne che gli autori del Bill of Rights credevano che “l’individuo doveva avere la libertà di scegliere da solo il momento e le circostanze in cui condividere i suoi segreti con gli altri e decidere il grado di estensione di tale condivisione”. Quella “libertà di scegliere” è l’elementare diritto epistemico a conoscere noi stessi. Qui sta l’origine si tutta la questione della privacy.
I diritti epistemici
Per esempio, come portatore naturale di tali diritti, io non concedo al riconoscimento facciale di Amazon il diritto di conoscere e sfruttare la mia persona per il targeting e le previsioni comportamentali che avvantaggiano gli scopi commerciali di altri soggetti.
Non è semplicemente che i miei sentimenti non sono in vendita, è che i miei sentimenti sono invendibili perché sono inalienabili. Io non do ad Amazon le mie sensazioni, ma loro se le prendono comunque, come un supplemento di dati che vanno ad aggiungersi a milioni di miliardi di informazioni che sono dati in pasto alle macchine ogni giorno.
I nostri diritti epistemici elementari non sono codificati nella legge perché non sono mai stati minacciati in modo sistematico, così come non abbiamo leggi per regolare il diritto di alzarci o sederci o sbadigliare.
Ma i capitalisti della sorveglianza hanno dichiarato il loro diritto a conoscere le nostre vite. Nasce così una nuova era, fondata e legittimata dalla dottrina non scritta dell’eccezionalismo della sorveglianza. Adesso il diritto, una volta dato per scontato, di sapere e di decidere chi sa di noi deve essere codificato in legge e protetto dalle istituzioni democratiche.
A valle del problema epistemico
Così come le nuove condizioni di vita mostrano la necessità di nuovi diritti, così i danni del colpo di stato epistemico richiedono soluzioni appositamente concepite. È così che il diritto si evolve, crescendo e adattandosi da un’epoca all’altra.
Quando si affrontano le nuove condizioni imposte dal capitalismo della sorveglianza, la maggior parte della discussione sull’azione legislativa e regolatoria si sposta a valle, cioè su argomenti riguardanti i dati, la privacy, l’accessibilità, la trasparenza e la portabilità, oppure su programmi per compensare monetariamente la nostra acquiescenza nei confronti dei nostri dati. A valle è dove discutiamo anche della moderazione dei contenuti e dei filtri anti fake-news.
A valle è dove le aziende del web vogliono che noi, resi esausti dai dettagli dei contratti di utilizzo dei servizi, dimentichiamo che la loro rivendicazione di proprietà sui nostri dati è illegittima.
Quali soluzioni senza precedenti possono porre un rimedio ai danni senza precedenti del colpo di stato epistemico? In primo luogo, andiamo a monte di tutto ciò e poniamo fine alle operazioni di raccolta dei dati da parte del capitalismo della sorveglianza commerciale.
A monte del problema epistemico
A monte del problema epistemico, oggi la licenza di appropriarsi dei dati funziona a pieno regime attraverso le alchemie di sorveglianza per trasformare il “materiale” dell’esperienza umana — la mia paura, la loro conversazione a colazione, la tua passeggiata nel parco — nell’oro di dati proprietari. Abbiamo bisogno di un quadro legale che interrompa e metta fuori legge l’estrazione su larga scala dell’esperienza umana.
Le leggi che impediscono la raccolta dei dati metterebbero fine alle filiere illegittime del capitalismo della sorveglianza. Gli algoritmi che raccomandano, microtargettizzano e manipolano così come i milioni di previsioni comportamentali elaborate ogni secondo non possono esistere senza l’innumerevole quantità di dati che vengono macinati ogni giorno.
Poi, abbiamo bisogno di leggi che mettano in relazione la raccolta dei dati con i diritti fondamentali e l’uso dei dati come fatto pubblico, al servizio, cioè, dei veri bisogni delle persone e delle comunità. Così i dati non sono più il mezzo di una guerra dell’informazione condotta sulla pelle degli innocenti.
In terzo luogo, dobbiamo interrompere gli incentivi finanziari che premiano l’economia della sorveglianza. Possiamo proibire le pratiche commerciali su si fonda la raccolta rapace di dati. Le società democratiche hanno messo fuori legge i traffici che commerciano in organi umani e in bambini. I mercati che commerciano in esseri umani sono stati resi illegali, anche quando supportavano intere economie.
Da che parte iniziare
Questi principi stanno già plasmando l’azione democratica. La Federal Trade Commission ha avviato un monitoraggio dei social media e delle società di video-streaming una settimana dopo aver presentato il suo caso contro Facebook e ha detto che intendeva “sollevare il coperchio” dei meccanismi interni di funzionamento “per studiare attentamente i loro motori”. Una dichiarazione di tre commissari ha preso di mira le aziende tecnologiche “capaci di sorvegliare e monetizzare le nostre vite personali”, aggiungendo che “troppe cose sull’industria rimangono pericolosamente opache”.
Alcune proposte legislative innovative dell’Unione europea e della Gran Bretagna, se approvate, inizieranno a istituzionalizzare i tre principi. L’Unione Europea vuole una governance democratica sulle scatole nere dei meccanismi interni di funzionamento delle più grandi piattaforme, introducendo un’autorità di controllo e di intervento. I diritti fondamentali e lo stato di diritto non si vaporizzeranno più al confine con il mondo digitale, poiché i legislatori insistono su “un ambiente online sicuro, prevedibile e affidabile”.
In Gran Bretagna l’Online Harms Bill stabilirebbe un “dovere di curatela” legale che riterrebbe le aziende tecnologiche responsabili per i danni pubblici arrecati dai loro utenti, introducendo nuove autorità di controllo con ampi poteri di intervento.
Due frasi spesso attribuite al giudice Brandeis figurano nell’impressionante rapporto antitrust della sottocommissione del Congresso. “Dobbiamo fare la nostra scelta. Possiamo avere la democrazia, o possiamo avere la ricchezza concentrata nelle mani di pochi, ma non possiamo averle entrambe”.
La dichiarazione è rilevante per il tempo di Brandeis nel quale dominava il capitalismo che conosciamo, ma non va bene per il capitalismo che abbiamo oggi. A meno che la democrazia non revochi la licenza ad appropriarsi dei dati e metta in discussione l’economia e le operazioni fondamentali della sorveglianza commerciale, il colpo di stato epistemico indebolirà e alla fine trasformerà la democrazia stessa.
Dobbiamo fare la nostra scelta. Possiamo avere la democrazia o la società della sorveglianza, ma non possiamo averle entrambi. Abbiamo una civiltà dell’informazione democratica da costruire, e non c’è più tempo da perdere.
Shoshana Zuboff insegna alla Harvard Business School dal 1981, dove è stata tra le prime donne ad avere una cattedra di ruolo. Nel corso della sua carriera ha studiato l’ascesa, l’affermazione e le trasformazioni dell’era digitale, osservandone le conseguenze sociali ed economiche in lavori spesso considerati profetici. Il suo libro In the Age of the Smart Machine, uscito nel 1988, ha predetto l’impatto che l’intelligenza artificiale avrebbe avuto sulla società attuale. Il suo ultimo libro è he Age of Surveillance Capitalism (tr. it. Il capitalismo della sorveglianza, Roma, LUISS University Pres, 2019). Il lavoro è considerato da molti l’opera definitiva sull’era che stiamo vivendo.
Fonte: The Coup We Are Not Talking About, by Shoshana Zuboff, The New York Times, 29 gennaio 2021