Shoshana Zuboff, professore emerito alla Harvard Business School e autrice de Il capitalismo della sorveglianza (Luiss University Press) è una celebrità che va oltre il mondo accademico e l’élite intellettuale. Del capitalismo della sorveglianza se ne sente ormai parlare nei talk show di prima serata.
In questo breve saggio, che pubblichiamo nella traduzione italiana, Zukoff spiega con rara chiarezza come sia nato e si sia sviluppato questa forma di capitalismo estrattivo e quasi invisibile alla massa che è ben felice di beneficiare dei suoi servizi.
I protagonisti del capitalismo della sorveglianza sono tre: chi lo pratica senza preoccuparsi delle conseguenze generali a beneficio proprio e degli azionisti, il pubblico che per un paio di caramelle è contendo di donare” i propri dati personali e infine i legislatori che svolgono lo sguardo da un’altra parte per paura di compiere delle scelte impopolari.
GRAZIE JACK DORSEY
In questi giorni Jack Dorsey si è dimesso dalla guida di Twitter. Grazie a lui Twitter non è entrata nel novero delle leonesse della nuova economia che praticano il capitalismo della sorveglianza. Infatti molti, soprattutto a Wall Strett, si chiedono come possa esistere un paradosso come Twitter.
Cioè quello di un social media che, essendo tra i più autorevoli con i suoi 250 milioni di utenti attivi, abbia dei ricavi e dei profitti così striminziti. Semplice: perché Twitter ha fatto la cosa giusta dal punto di vista dell’interesse generale: si è tenuto fuori dalle lucrosissime pratiche del capitalismo della sorveglianza.
Se ne stai dentro la tua capitalizzazione può raggiungere il trilione, se ne stai fuori difficilmente può superare 1/20 di quella cifra. Quindi il capitalismo della sorveglianza moltiplica per 20 volte il valore “naturale” di un servizio web offerto gratuitamente.
Ma che cosa è questo tipo di capitalismo e come è nato. Ce lo spiega bene Zuboff che da 20 anni studia il fenomeno dell’economia digitale. Ecco il suo saggio
LA NUOVA INDUSTRIA ESTRATTIVA
Facebook non è una società qualsiasi. Ha raggiunto lo status di un milione di miliardi di dollari in un solo decennio grazie alla logica di quello che io chiamo capitalismo di sorveglianza – un sistema economico costruito sull’estrazione segreta e la manipolazione dei dati delle persone – che ha l’aspirazione a collegare il mondo intero. Facebook e altre importanti entità capitaliste di sorveglianza ora controllano i flussi di informazioni e le infrastrutture di comunicazione in tutto il mondo.
Queste infrastrutture sono fondamentali per una società democratica, eppure le nostre democrazie hanno permesso a queste aziende di possedere, operare e mediare i nostri spazi di informazione senza essere in alcun modo disciplinate dal diritto pubblico. Il risultato è stato una rivoluzione nascosta nel modo in cui l’informazione viene prodotta, fatta circolare e lavorata. Una cascata di rivelazioni dal 2016 ad oggi, confermate dalla documentazione e dalla testimonianza personale della whistle-blower Frances Haugen, testimonia le conseguenze di questa rivoluzione.
Le democrazie liberali del mondo ora affrontano la tragedia dei “non-comuni”, cioè degli spazi d’informazione che la gente assume come pubblici che invece sono strettamente piegati a interessi commerciali privati volti alla ricerca del massimo profitto.
SENZA VIA DI SCAMPO?
Internet come mercato autoregolato si è rivelato un esperimento fallito. Il capitalismo della sorveglianza lascia una scia di devastazione sociale: la distruzione della privacy, l’intensificazione della disuguaglianza sociale, l’inasprimento del discorso pubblico con informazioni defattualizzate, la demolizione delle norme sociali e l’indebolimento delle istituzioni democratiche.
Questi danni sociali non sono casuali. Sono effetti strettamente collegati allo stadio di avanzamento di operazioni economiche. Ogni danno spiana la strada al successivo e dipende da quello che lo ha preceduto.
Non c’è modo di sfuggire ai sistemi automatici che ci sorvegliano, sia che stiamo facendo shopping, guidando o camminando nel parco. Tutte le vie di partecipazione economica e sociale ora passano attraverso il territorio del capitalismo di sorveglianza che massimizza il profitto, una condizione accresciuta durante quasi due anni di pandemia globale.
La violenza digitale di Facebook risveglierà finalmente l’impegno per riprenderci i “non-comuni”? Affronteremo le questioni fondamentali a lungo ignorate di una civiltà dell’informazione? Come dovremmo organizzare e governare gli spazi di informazione e comunicazione del secolo digitale in un maniera da sostenere e portare avanti i valori e i principi democratici?
TUTTO È COMINCIATO CON GOOGLE
Facebook come lo conosciamo oggi è modellato su una costola di Google. La start-up di Mark Zuckerberg non ha inventato il capitalismo della sorveglianza. È stato Google a farlo. Nel 2000, quando solo il 25% delle informazioni del mondo erano immagazzinate nel digitale, Google era una piccola start-up con un ottimo prodotto di ricerca, ma con poche entrate.
Nel 2001, nel pieno della crisi delle dot-com, i leader di Google hanno messo in campo una serie di invenzioni che avrebbero trasformato l’industria della pubblicità. Il loro team ha iniziato a combinare i consistenti flussi di dati e informazioni personali con analisi computazionali avanzate per prevedere dove una pubblicità avrebbe potuto ottenere il massimo “click through”.
Le previsioni sono state inizialmente calcolate analizzando le tracce che gli utenti avevano inconsapevolmente lasciato nei server dell’azienda mentre navigavano o sviluppavano ricerche sulle pagine di Google. Gli scienziati di Google hanno imparato a estrarre metadati predittivi da questo “stock di dati” e usarlo per analizzare i probabili modelli di comportamento futuro.
IL MODELLO PREDITTIVO
La previsione era il primo imperativo che determinava il secondo imperativo: l’estrazione dei dati. Previsioni lucrative richiedevano flussi di dati su una scala quasi inimmaginabile. Gli utenti non sospettavano che i loro dati fossero segretamente raccolti in ogni anfratto di internet e, più tardi, da app, smartphone, dispositivi collegati a internet, telecamere e sensori. L’ignoranza degli utenti era il punto cruciale per il successo del progetto. Ogni nuovo prodotto era un mezzo per ottenere un maggiore “coinvolgimento (engagement)”, un eufemismo usato per nascondere operazioni di estrazione illecita.
Alla domanda “Che cos’è Google?”, il co-fondatore Larry Page ha risposto nel 2001, secondo un resoconto dettagliato di Douglas Edwards (il primo brand manager di Google) nel suo libro I’m Feeling Lucky: “L’archiviazione è economica. Le macchine fotografiche sono economiche. La gente genererà enormi quantità di dati. Tutto ciò che si è mai visto o sperimentato diventerà ricercabile. Tutta la vita sarà ricercabile”.
Invece di far pagare il servizio di ricerca agli utenti, Google è sopravvissuto trasformando il suo motore di ricerca in un sofisticato mezzo di sorveglianza per catturare i dati personali. I dirigenti dell’azienda hanno lavorato per mantenere queste operazioni segrete, nascoste agli utenti, ai legislatori e ai concorrenti. Page si è opposto a tutto ciò che avrebbe potuto “agitare la pentola della privacy e mettere in pericolo la nostra capacità di raccogliere dati”, ha scritto Edwards.
LA NASCITA DI UN NUOVO EDIFICIO ECONOMICO
Le operazioni di estrazione su larga scala erano la chiave di volta del nuovo edificio economico e sostituivano altri scopi, a cominciare dalla qualità delle informazioni, perché nella logica del capitalismo di sorveglianza, l’integrità delle informazioni non ha alcun legame con i ricavi.
Questo è il contesto economico in cui si è affermats la disinformazione. Nel 2017, Eric Schmidt, il presidente esecutivo della società madre di Google, Alphabet, ha riconosciuto il ruolo delle operazioni di ranking algoritmico di Google nella diffusione di informazioni ingannevoli.
“C’è una linea che non possiamo davvero superare”, ha detto. “È molto difficile per noi capire la verità. Un’azienda con la missione di organizzare e rendere accessibili tutte le informazioni del mondo utilizzando i più sofisticati algoritmici non può discernere le informazioni corrette da quelle che non lo sono”.
FACEBOOK, IL PRIMO FOLLOWER
Mark Zuckerberg ha iniziato la sua carriera imprenditoriale nel 2003 mentre era studente ad Harvard. Il suo sito web, Facemash, invitava i visitatori a valutare il sex appeal degli altri studenti. Il sito fece indignare i coetanei e fu chiuso. Poi è arrivato TheFacebook nel 2004 e Facebook nel 2005, quando Zuckerberg ha acquisito i primi investitori professionali.
Il numero di utenti di Facebook si accrebbe rapidamente; le sue entrate no. Come Google qualche anno prima, Zuckerberg non riusciva a trasformare la popolarità in ricavi e profitti.
Passava da una gaffe all’altra e le continue violazioni della privacy degli utenti provocavano forti reazioni nell’opinione pubblica, petizioni e cause collettive.
Zuckerberg sembrava capire che la risposta ai suoi problemi era nell’estrazione dei dati personali senza il consenso per rivenderli agli inserzionisti, ma la complessità della logica di questa operazione gli sfuggiva.
Allora si rivolse a Google per avere delle risposte.
Nel marzo 2008, Zuckerberg fece venire a Facebook il capo della pubblicità online globale di Google, Sheryl Sandberg, come suo secondo in comando. La Sandberg era entrata in Google nel 2001 e aveva svolto un ruolo chiave nella rivoluzione del capitalismo di sorveglianza. Aveva guidato la costruzione del motore pubblicitario di Google, AdWords, e il suo programma AdSense, che insieme rappresetavano la maggior parte dei 16,6 miliardi di dollari di entrate della società nel 2007.
ARRIVA SHERYL SANDBERG
Già multimilionaria a Google, nel momento in cui è stata contattata da Zuckerberg, Sandberg ha capito le immense opportunità di Facebook per l’estrazione di ricchi dati predittivi. “Abbiamo informazioni migliori di chiunque altro. Conosciamo il sesso, l’età, la posizione, e sono dati reali al contrario delle cose che altre persone deducono”, ha detto la Sandberg, secondo David Kirkpatrick autore del libro The Facebook Effect.
L’azienda aveva “dati migliori” e “dati reali” perché aveva un posto in prima fila per quello che Page aveva chiamato “tutta la tua vita”.
Con le nuove politiche sulla privacy alla fine del 2009 Facebook aprì la strada all’economia della sorveglianza. La Electronic Frontier Foundation aveva notato che la nuova impostazione “Everyone” avrebbero eliminato tutte le opzioni per limitare la visibilità dei dati personali, trattandoli invece come informazioni disponibili per il pubblico.
TechCrunch riassunse bene la strategia della società: “Facebook sta costringendo gli utenti a scegliere le nuove opzioni di privacy per promuovere l’aggiornamento ‘Everyone’ e per liberarsi di qualsiasi potenziale futuro illecito nell’utilizzo dei dati. A parziale discarico della società, si può affermare che gli utenti hanno volontariamente fatto la scelta di condividere le loro informazioni con tutti”.
Settimane dopo, Zuckerberg difese queste mosse in una intervista TechCrunch. “Un sacco di aziende sarebbero rimaste intrappolate dalle consuetudini e dalla loro eredità”, si è vantato. “Noi invece abbiamo deciso che queste sarebbero state le nuove norme sociali qui e ora, e siamo andati per questa strada”.
Zuckerberg “si è letteralmente buttato in questa strada” perché non c’erano leggi che gli impedissero di unirsi a Google nella distruzione totale della privacy. Se i legislatori avessero voluto sanzionarlo come uno spietato massimizzatore di profitti pronto a usare la sua rete sociale contro la società, allora il 2009-2010 sarebbe stata una buona occasione.
UN ORDINE ECONOMICO TRAVOLGENTE
Facebook è stato il primo seguace di Google, ma non l’ultimo. Google, Facebook, Amazon, Microsoft e Apple sono imperi di sorveglianza privata, ognuno con modelli di business distinti. Google e Facebook sono aziende pure di sorveglianza-capitalismo. Gli altri hanno varie linee di business che includono dati, servizi, software e prodotti fisici. Nel 2021 questi cinque giganti tecnologici americani rappresentano cinque delle sei più grandi aziende quotate in borsa per capitalizzazione di mercato.
Mentre ci muoviamo nel terzo decennio del 21° secolo, il capitalismo della sorveglianza è l’istituzione economica dominante del nostro tempo. In assenza di leggi riequilibrio, questo sistema media con successo quasi ogni aspetto del rapporto delle persone con l’informazione digitale. La promessa del dividendo che la sorveglianza apporta ha finito per portare l’economia della sorveglianza nell’economia “normale”, nelle assicurazioni, nella vendita al dettaglio, nelle banche e nella finanza, nell’agricoltura, nella industria automobilistica, nella istruzione, assistenza sanitaria e in tanti altri settori. Oggi tutte le app e i software, non importa quanto benigni appaiano, sono progettati per massimizzare la raccolta di dati.
Storicamente, le grandi concentrazioni di potere aziendale provocavano dei danni economici. Ma quando i dati personali sono la materia prima e le previsioni del comportamento delle persone sono il prodotto, allora i danni sono sociali piuttosto che economici. La difficoltà è che questi nuovi danni sono generalmente visti come problemi separati, persino non correlati, il che li rende difficili da risolvere. Invece, ogni nuovo stadio del danno crea le condizioni per lo stadio successivo del danno.
L’ESTRAZIONE ASIMMETRICA
Tutto inizia con l’estrazione. Un ordine economico fondato sull’estrazione segreta su larga scala di dati personali presuppone la distruzione della privacy come condizione imprenscindibile delle sue operazioni commerciali. Con la privacy fuori dai piedi, i dati delle persone ottenuti in modo illecito divengono il patrimonio delle corporation private, dove sono intesi come beni aziendali da impiegare a piacimento.
L’effetto sociale è una nuova forma di disuguaglianza che si riflette nella colossale asimmetria tra ciò che queste aziende sanno di noi e ciò che noi sappiamo di loro. La dimensione di questo divario di conoscenza emerge in un documento, trapelato del 2018, di Facebook, che ha descritto il suo hub di intelligenza artificiale, che ingurgita milioni di miliardi di dati comportamentali ogni giorno e produce sei milioni di previsioni comportamentali ogni secondo.
Successivamente, questi dati personali sono usati come algoritmi di targeting, progettati per massimizzare l’estrazione e indirizzati alle loro ignare fonti per aumentarne il coinvolgimento. I meccanismi di targeting cambiano la vita reale, a volte con gravi conseguenze. Per esempio, i file di Facebook ritraggono uno Zuckerberg che usa i suoi algoritmi per rafforzare o bloccare il comportamento di miliardi di persone. La rabbia viene premiata o ignorata. Le notizie diventano più degne di fiducia o più sconclusionate. Gli editori fioriscono o appassiscono. Il discorso politico diventa più radicale o più moderato. La gente vive o muore.
IL DANNO FINALE
Di tanto in tanto la nebbia si dirada per rivelare il danno finale: il crescente potere dei giganti della tecnologia che vogliono usare il loro controllo sulle infrastrutture di informazione per competere con i legislatori, democraticamente eletti, per il dominio della società.
All’inizio della pandemia, per esempio, Apple e Google si sono rifiutati di adattare i loro sistemi operativi per ospitare le applicazioni di tracciamento dei contatti sviluppate dalle autorità sanitarie pubbliche e sostenute da personale eletto. A febbraio, Facebook ha chiuso molte delle sue pagine in Australia come segno della sua indisponibilità a negoziare con il Parlamento australiano un pagamento per l’utilizzo dei contenuti e delle notizie.
Ecco perché, quando si tratta del trionfo della rivoluzione del capitalismo di sorveglianza, sono i legislatori di ogni democrazia liberale, soprattutto negli Stati Uniti, che portano la maggiore responsabilità. Hanno permesso al capitale privato di governare i nostri spazi d’informazione durante due decenni di crescita spettacolare, senza varare leggi per regolarlo.
Cinquant’anni fa l’economista conservatore Milton Friedman esortava i dirigenti americani a «impegnarsi in attività dirette ad accrescere i profitti sempre con l’ovvio presupposto del rispetto delle regole del gioco, vale a dire dell’obbligo di impegnarsi in una aperta e libera competizione, senza inganno e senza frode.»
Il dIL DANNO COLLATERALE
Le società democratiche afflitte da disuguaglianza economica, crisi climatica, esclusione sociale, razzismo, emergenza sanitaria e istituzioni indebolite devono percorre una lunga strada verso la guarigione. Non possiamo risolvere tutti i nostri problemi in una volta sola, ma non ne risolveremo alcuno, mai, se non recuperiamo la sacralità dell’integrità dell’informazione e della comunicazione affidabile. L’abdicazione dei nostri spazi di informazione e comunicazione a favore del capitalismo di sorveglianza è diventata la meta-crisi di ogni democrazia, perché ostacola le soluzioni a tutte le altre crisi.
Né Google, né Facebook, né nessun altro attore imprenditoriale in questo nuovo ordine economico si è prefisso di distruggere la società, non più di quanto l’industria dei combustibili fossili si sia proposta di distruggere la terra. Ma come il riscaldamento globale, i giganti della tecnologia e i loro compagni di viaggio hanno trattato gli effetti distruttivi delle loro azioni sulle persone e sulla società come danni collaterali – il sottoprodotto sfortunato ma inevitabile di operazioni economiche perfettamente legali che hanno prodotto alcune delle corporation più ricche e potenti nella storia del capitalismo.
LA CONTRORIVOLUZIONE DELLA DEMOCRAZIA
Dove ci porta tutto questo? La democrazia è l’unico ordine istituzionale che contrasta l’autoritarismo ed è il potere legittimo per cambiare il corso della storia. Se l’ideale dell’autogoverno deve sopravvivere al secolo digitale, allora tutte le soluzioni puntano a una sola strada: una controrivoluzione democratica. Invece dei soliti elenchi di rimedi, i legislatori dovrebbero procedere con una chiara comprensione dell’avversario: cioè quella di trovarsi di fronte a un unico sistema di cause economiche e di danni sociali.
Non possiamo liberarci dei danni sociali successivi se non mettiamo fuori legge le cause economiche sottostanti. Questo significa che dobbiamo andare oltre l’attuale attenzione alle questioni a valle del problema come la moderazione dei contenuti e il controllo dei contenuti illegali.
Questi “rimedi” trattano solo i sintomi senza mettere in discussione l’illegittimità dell’estrazione di dati personali che alimenta il controllo privato sugli spazi informativi della società. Allo stesso modo, soluzioni strutturali come “spezzare” i giganti della tecnologia possono essere preziose in alcuni casi, ma non andranno a toccare le operazioni economiche sottostanti al capitalismo della sorveglianza.
Piuttosto, la discussione sulla regolamentazione delle grandi tecnologie dovrebbe concentrarsi sul fondamento dell’economia della sorveglianza: l’estrazione segreta di dati personali da ambiti della vita una volta chiamati “privati”. I rimedi che si concentrano sulla regolamentazione dell’estrazione dei dati sono neutrali rispetto al contenuto e non lo alterano. Non minacciano la libertà di espressione. Invece, liberano il discorso sociale e i flussi di informazioni dalla “selezione artificiale” delle operazioni commerciali che massimizzano il profitto e che favoriscono la corruzione delle informazioni piuttosto che la loro integrità. Ripristinano la santità della comunicazione sociale e dell’espressione individuale.
L’INIZIATIVA DEI LEGISLATORI
Nessuna estrazione segreta significa nessuna raccolta e concentrazione illegittima di conoscenza sulle persone. Nessuna concentrazione di conoscenza significa nessun algoritmo di targeting. Nessun targeting significa che le corporation non possono più controllare e curare i flussi di informazioni e il discorso sociale o modellare il comportamento personale per favorire i loro interessi. Regolamentare l’estrazione eliminerebbe il dividendo della sorveglianza e con esso gli l’interesse della finanza per la sorveglianza.
Mentre le democrazie liberali hanno iniziato a impegnarsi con le sfide della regolamentazione degli spazi di informazione di proprietà privata di oggi, la verità è che abbiamo bisogno di legislatori pronti a impegnarsi in un’esplorazione, una volta a secolo, di questioni molto fondamentali come le seguenti: come dovremmo strutturare e governare l’informazione, la connessione e la comunicazione in un secolo digitale democratico? Quali nuove carte dei diritti, quadri legislativi e istituzioni sono necessari per assicurare che la raccolta e l’uso dei dati siano al servizio dei bisogni reali degli individui e della società? Quali misure proteggeranno i cittadini da un potere irresponsabile sull’informazione, sia esso esercitato da aziende private o da governi?
Le democrazie liberali dovrebbero prendere l’iniziativa perché hanno il potere e la legittimità per farlo. Ma dovrebbero sapere che i loro alleati e collaboratori sono la gente che lotta contro un futuro distopico.
Facebook può cambiare il suo nome o i suoi leader, ma non cambierà volontariamente la sua economia.
L’appello a “regolare Facebook” dissuaderà i legislatori dal fare i conti con qualcosa dipiù profondo? O indurrà un maggiore senso di urgenza? Riusciremo finalmente a rifiutare le vecchie risposte e a liberarci per porre le nuove domande, a cominciare da questa: Cosa deve essere fatto per garantire che la democrazia sopravviva al capitalismo della sorveglianza?
Da: Shoshana Zuboff, You Are the Object of a Secret Extraction Operation, The New York Times, 12 novembre 2021
