L’oscura logica della nuova economia
Shoshana Zuboff è una studiosa sociale di lungo corso. In tempi non sospetti si è occupata dell’impatto dei nuovi strumenti di computazione e di conoscenza sul modello economico capitalistico e sulla società nel suo complesso. Il suo primo lavoro sulle macchine intelligenti risale al lontano 1988. In quello studio si soffermava sull’impatto dell’office automation nei luoghi di lavoro che già individuava come epocale e distruttivo di tutti gli assetti storicamente determinatasi. È quello che in effetti è successo negli anni seguiti alla pubblicazione del libro, non solo negli ambienti di lavoro, ma in tutti gli anfratti della vita sociale ed economica.
Tali trasformazioni sono stati così impattanti e profonde che gli studiosi più sensibili alla genetica sociale stanno parlando di un vero e proprio cambio nel modo di produzione capitalistico, per usare una espressione coniata da Marx allo scopo definire un sistema storico di organizzazione delle relazioni umane a tutti i livelli.
Lo studioso israeliano Yuval Noah Harari, una delle menti più brillanti del nostro tempo, ha parlato di una trasformazione del capitalismo in Dataismo, cioè in un modello di controllo dei mezzi di produzione e delle risorse basato sulla raccolta, elaborazione e utilizzo dei dati, la nuova materia prima dello sviluppo umano.
Chi ha osservato direttamente il modello capitalistico nella sua più genuina espressione – come gli studiosi della scuola di Francoforte, parte della diaspora europea in America – aveva già descritto il modello di reificazione e di controllo sociale operato, per esempio, dall’industria culturale che ha portato la dialettica dell’illuminismo al suo punto estremo. Ma oggi ci dice la Zuboff la tecnologia, o meglio la sua attuale forma modellata nella Silicon Valley, ci ha portato oltre la stessa reificazione descritta dalla Teoria critica, ci ha condotto al capitalismo della sorveglianza. Gli individui, come nei peggiori incubi di Huxley, sono corpi atti a essere spremuti, inconsapevolmente e attraverso meccanismi a loro alieni, della loro essenza e della loro privatezza per alimentare uno scopo ben definito: oggi controllare le loro scelte e i loro orientamenti come consumatori di beni e servizi e domani chi sa cos’altro. Una volta che il modello è impiantato e funzionante diventa spontaneamente universale.
La Zuboff in un intervento sul “Financial Times” ha illustrato bene le sue riflessioni e la sua teoria sul capitalismo della sorveglianza. Siamo lieti di offrire la traduzione italiana di questo intervento.
Il modello della sorveglianza
Recentemente Mark Zuckerberg è stato attaccato da Roger McNamee, un suo ex collaboratore. McNamee, che aveva già criticato il CEO di Facebook, ha fortemente biasimato Zuckerberg e la sua società per l’incessante appropriazione dei dati degli utenti con metodi sempre più illeciti e distruttivi. Ha scritto McNamee: “Per alimentare la sua intelligenza artificiale e gli algoritmi, Facebook ha raccolto dati ovunque li trovasse. In poco tempo, Facebook è riuscito a spiare tutti, comprese le persone che non usano Facebook. Queste operazioni – ha aggiunto – sono state affinate per manipolare gli utenti con pratiche che alla fine sono andate a beneficio di cattivi soggetti che avevano l’intento per intrufolarsi nella coscienza pubblica e sfigurare il discorso politico.
Recentemente McNamee ha pubblicato un libro dal titolo Zucked. Waking Up to the Facebook Catastrophe, il cui titolo è già un piano dell’opera. Il libro ha avuto una forte eco, è stato recensito e discusso da tutti i principali media del mondo e figura da settimane nella New York Times bestseller List.
L’analisi di McNamee attua, però, una sottovalutazione di scala. È vero che il governo russo e che il plutocratico Robert Mercer, padrone della defunta Cambridge Analytica e grande donatore della campagna presidenziale di Donald Trump, hanno imparato a manipolare la complessa macchina segreta che Facebook ha costruito; sta di fatto, però, che il metodo Facebook e il modello di apparato digitale che ha costruito non inizia e finisce con Facebook. Tale modello è un elemento chiave di una nuova logica economica che io chiamo “capitalismo della sorveglianza”.
È un modello che va ben oltre Facebook
Queste pratiche sono state inventate da Google, sono state riprese da Facebook, hanno inghiottito la Silicon Valley e da allora si sono diffuse in ogni settore economico. Sarebbe un grave errore presumere che si tratti di un fenomeno solo riferito a Facebook. Se regoliamo Facebook, lo spezziamo e richiediamo un cambio di leadership, il capitalismo della sorveglianza non verrà meno in un batter di ciglio. Al contrario, riempirà rapidamente quel vuoto, con un nuovo cast di attori e uno nuovo adattamento della sceneggiatura.
Ho iniziato a studiare il passaggio al digitale nel 1978, concentrandomi sul tema dei posti di lavoro. Quando è stato pubblicato il mio primo libro, In the Age of the Smart Machine, nel 1988, ho capito che il percorso verso il futuro digitale sarebbe stato pieno di conflitti in particolare su chi avesse accesso alle nuove conoscenze, su chi avesse l’autorità di decidere e su chi avesse il potere di far rispettare quell’autorità. Ormai, questi dilemmi irrisolti sono andati ben oltre i luoghi di lavoro per inondare ogni aspetto della nostra vita. Le tecnologie dell’informazione e della comunicazione sono oggi più diffuse dell’elettricità, raggiungono 3 miliardi di persone nel mondo. La loro presenza permea tutta la vita quotidiana delle persone, mediando quasi ogni forma di partecipazione sociale.
Ben presto mi fu chiaro che il capitalismo della sorveglianza si allontanava da molte regole e pratiche che avevano definito il capitalismo classico e in particolare la storia della democrazia e delle economie di mercato. Era emerso qualcosa di sorprendente e senza precedenti le cui conseguenze avrebbero modellato l’ambiente morale e politico della società del XXI secolo e i valori stessi della nostra civiltà dell’informazione.
L’invenzione di Google
Il capitalismo della sorveglianza è stato inventato dopo lo scoppio della bolla delle dot.com, quando una nuova società, di nome Google, ha cercato di aumentare le entrate pubblicitarie utilizzando il suo accesso esclusivo a una fonte di dati ampiamente ignorati, cioè il “log” lasciato dalle ricerche e dalla navigazione online degli utenti. Google scoprì che questi dati avrebbero potuto essere analizzati in base a modelli predittivi che avrebbero fornito degli indizi decisivi sugli interessi degli utenti. E andò oltre: a questi utenti potevano, infatti, essere indirizzati degli annunci pubblicitari mirati per condizionare i loro comportamenti come consumatori. Google avrebbe potuto così riutilizzare i dati comportamentali “in eccedenza”, rispetto alla normale attività di ricerca, e sviluppare nuovi metodi per procurarsi in modo aggressivo nuove fonti di accesso ad essi.
Secondo i propri stessi scienziati, i nuovi metodi di Google erano apprezzati per la loro capacità di reperire dati che gli utenti avevano scelto di mantenere privati e di dedurre ampie informazioni personali che non erano state fornite direttamente. Queste operazioni sono state progettate per aggirare la consapevolezza dell’utente e, quindi, eliminare ogni possibile “attrito”. In altre parole, fin dall’inizio, la svolta di Google si fondava su uno specchio unidirezionale: la sorveglianza. I nuovi metodi sono stati inventati, applicati e tenuti in stretto segreto dal 2001 al 2004. Solo quando Google è andato in borsa nel 2004, il mondo ha appreso che, sulla base di queste nuove metodologie, le entrate di Google erano aumentate del 3.590%.
Il punto di svolta storico
Questo cambiamento nell’uso di dati comportamentali in eccesso è stato un punto di svolta storico. Google aveva trovato una risorsa rivoluzionaria a costo zero che avrebbe potuto essere deviata dal mero miglioramento del servizio verso un potente scopo commerciale. Il modello del capitalismo della sorveglianza ben presto si estese a Facebook per diventare il modello predefinito per l’accumulazione del capitale nella Silicon Valley. È stato razionalizzato come un quid pro quo per accedere ai servizi gratuiti, ma non è più limitato a quel contesto come, un tempo, succedeva con la produzione di massa che, per esempio, era limitata alla produzione del Modello T della Ford. Oggi si è esteso in una vasta gamma di settori, tra cui le assicurazioni, la vendita al dettaglio, l’assistenza sanitaria, la finanza, l’intrattenimento, l’istruzione e altro ancora. Il capitalismo sta letteralmente cambiando pelle sotto i nostri occhi.
Forse l’esempio più eclatante di questo cambiamento va cercato nel luogo di nascita della produzione di massa moderna, alla Ford Motor Company. Un centinaio di anni fa, i pionieri del capitalismo industriale moderno come Henry Ford svilupparono un nuovo modello, dando forma al consumo di massa dei beni industriali. Ford capì che anche gli agricoltori e i negozianti volevano automobili a un prezzo che potevano permettersi. Nel suo mondo, i clienti e i lavoratori erano collegati in un ciclo di produzione e vendita che combinava merci a basso costo con salari calibrati sul consumo dei beni.
Nel novembre 2018, Jim Hackett, amministratore delegato della Ford, ha indicato un nuovo paradigma per le case automobilistiche. Ha dichiarato a un intervistatore: “Il punto che voglio sviluppare è questo: in futuro avremo una marea di dati che provengono dai veicoli, dagli utenti di questi veicoli, dalle città che parlano di tali veicoli e dagli stessi concorrenti. La mia idea è che oggi abbiamo 100 milioni di persone che siedono in un veicolo blu-ovale della Ford. Questa è un’occasione unica per monetizzare questo stato di cose contro un concorrente (es. Tesla) che potrebbe avere, diciamo, 120 mila o 200 mila veicoli in circolazione. Confronta un attimo la scala dei due soggetti: da quale vorresti avere i dati?”
Una volta reinventati i clienti come fonti di dati, è stato facile per Hackett immaginare il passo successivo in cui i dati trasmessi in tempo reale dalle auto vengono combinati, ad esempio. con i dati di finanziamento della Ford. Ha infatti detto: “Lo sappiamo già… cosa fa la gente… sappiamo dove lavora; sappiamo se sono sposati. Sappiamo da quanto tempo vivono nella loro casa”. E conclude:” È questa la leva enorme che abbiamo con i dati”. A commento, afferma un analista del settore, “Ford potrebbe fare una fortuna monetizzando i dati. Non avranno bisogno di ingegneri, fabbriche o concessionari per farlo. È quasi un puro profitto”.
Se “smart” diventa il grimaldello del capitalismo della sorveglianza
È questo il mondo in cui viviamo. Un mondo in cui ogni prodotto o servizio che inizia con la parola “smart” o “personalised”, ogni dispositivo o veicolo connesso a Internet, ogni “assistente digitale” è un’interfaccia della catena di fornitura del flusso non ostruito di dati comportamentali. Si sa che il capitalismo si evolve sussumendo le cose che sono al di fuori della dinamica del mercato per trasformale in prodotti di mercato, in vendita e in acquisto. Il capitalismo della sorveglianza estende questo modello dichiarando l’esperienza umana privata un qualcosa che può essere elaborato e modellato per costruire previsioni comportamentali ai fini della produzione e dello scambio. In questa logica, il capitalismo della sorveglianza si appropria dei nostri comportamenti e assorbe tutto il significato che esiste nei nostri corpi, nei nostri cervelli e nei nostri cuori. Non sei neanche “il prodotto”, sei la carcassa abbandonata. Il “prodotto” sono i dati in eccesso strappati alla tua vita.
In queste nuove supply chain possiamo trovare le tracce delle persone con cui condividiamo la nostra vita, i segreti che i nostri figli condividono con i loro giocattoli, le conversazioni al pranzo, i livelli di decibel nel salotto e i punti esclamativi che seguono un post di Facebook, una volta scritto con innocenza e candore.
Nulla è esente dall’essere smart, dalle bottiglie di “vodka smart“ ai termometri rettali connessi a Internet, poiché i prodotti e i servizi di ogni settore partecipano alla competizione per i ricavi della sorveglianza. Queste informazioni sono “succhiate” dalla nostra vita quotidiana in modi progettati per farci ignorare quello che sta accadendo. Negli Stati Uniti, le macchine respiratorie utilizzate da persone che soffrono di asma incanalano segretamente i dati all’assicuratore che sta nel frattempo dormendo, spesso per consentire alla compagnia di negare il pagamento delle cure. Alcune app per telefoni cellulari registrano la nostra posizione ogni due secondi per venderla a terzi. A luglio 2017, l’aspirapolvere autonomo iRobot Roomba, ha fatto notizia quando il CEO della società, Colin Angle, ha parlato a Reuters della sua strategia aziendale basata sulla raccolta e la elaborazione dei dati per la “casa intelligente”. Ha affermato che il prezzo delle azioni è cresciuto moltissimo dopo la sua proposta di condividere le planimetrie gratuite delle case dei clienti, nel frattempo mappate dalle nuove capacità di tracciatura del robottino di pulizia.
A un certo punto, i capitalisti della sorveglianza hanno scoperto che la modifica del comportamento: e gli interventi in tempo reale mediati digitalmente spingono i consumatori nella direzione desiderata da quei capitalisti. Uno scienziato dei dati mi ha spiegato che: “Possiamo progettare il contesto attorno a un particolare comportamento e forzare il cambiamento in quella direzione... Stiamo imparando a scrivere la musica, e poi lasciamo che la musica li faccia ballare”. Gli esempi sono tanti. È il luogo dove i giocatori di Pokémon Go vanno a mangiare, bere e acquistare, cioè quei ritrovi che pagano per giocare nei mercati dei futures comportamentali. È la spietata espropriazione dei dati in eccesso dai profili di Facebook per dettagliate “intuizioni psicologiche” che, secondo un report aziendale interno del 2017, consentono agli inserzionisti di individuare il momento esatto in cui un adolescente ha bisogno di “una iniezione di fiducia”.
Le asimmetrie della conoscenza
I capitalisti della sorveglianza producono asimmetrie della conoscenza profondamente antidemocratiche e beneficiano di una crescita del loro potere che deriva dalla conoscenza. Loro sanno tutto di noi, mentre le loro operazioni sono progettate per essere inconoscibili da parte nostra. Prevedono il nostro futuro e configurano il nostro comportamento, ma lo fanno per soddisfare obiettivi di altri e per il guadagno economico.
Questo potere nel conoscere e modificare il comportamento umano non ha precedenti. Spesso confuso con il “totalitarismo” e temuto come Grande Fratello, è una nuova specie di potere moderno che io chiamo “instrumentarianism (strumentarianismo)”. Il potere strumentale può conoscere e modificare il comportamento di individui, gruppi e popolazioni al servizio del capitale della sorveglianza. Lo scandalo di Cambridge Analytica ha rivelato come, con il giusto know-how, questi metodi di potere strumentale possono fare da perno a obiettivi politici. Ma non ci sbagliamo, la tattica impiegata da Cambridge Analytica era parte delle tante e quotidiane operazioni di routine del capitalismo nella sua azione per influenzare il comportamento della gente.
Doveva essere un’altra cosa
Non doveva essere così. Nel 2000, alcuni scienziati del computer e alcuni ingegneri hanno lavorato a un progetto chiamato Aware Home. Hanno immaginato la “simbiosi casa-uomo” in cui i processi animati e inanimati sarebbero stati catturati da una rete di “sensori sensibili al contesto” installati in una casa e da computer indossati dai suoi abitanti. Il sistema era stato progettato come un semplice circuito chiuso controllato interamente dagli occupanti. Verificato che “monitorando costantemente i luoghi e le attività degli occupanti”… e anche intercettando le condizioni mediche dei suoi abitanti”, il team ha concluso che “c’è una chiara necessità di dare agli occupanti conoscenza e controllo sulla distribuzione di queste informazioni”. Tutte le informazioni dovevano essere memorizzate sui computer indossati degli occupanti per garantire la privacy delle informazioni di un individuo.
Arriviamo velocemente al 2017 quando due studiosi dell’Università di Londra hanno pubblicato un’analisi dettagliata su un singolo dispositivo di “casa intelligente”, il termostato Nest di proprietà di Google. Uno di loro decise di entrare nell’ecosistema dei dispositivi e delle app connesse, accettando i termini di servizio per la condivisione dei dati di terze parti. L’acquisto di un singolo termostato Nest comporta la necessità di sottoscrivere quasi un migliaio di sedicenti “clausole“. Se il cliente si rifiuta di accettare le disposizioni di Nest, i termini del servizio, le funzionalità e la sicurezza del termostato sono compromesse e non più supportate dagli aggiornamenti intesi a garantirne l’affidabilità e la sicurezza del dispositivo.
I capitalisti della sorveglianza vogliono farci credere che la loro traiettoria verso il futuro digitale sia inevitabile. Ma non è così Oggi potremmo rimpiangere l’innocenza di Aware Home ma, come un messaggio in una bottiglia che viene dal passato, ci dice qualcosa di importante. Una volta eravamo i soggetti della nostra vita, oggi siamo i suoi oggetti. Aware Home è la testimonianza di ciò che abbiamo perso e di ciò che dobbiamo ritrovare: il diritto di sapere e di decidere chi debba conoscere le nostre vite e il nostro futuro. Tali diritti sono stati e rimangono l’unica base possibile per la libertà umana e per una società democratica che funzioni bene.
Il ruolo della Apple
Alla fine di ottobre del 2018 Tim Cook, amministratore delegato di Apple, di fronte al Parlamento europeo, ha criticato il “complesso industriale dei dati”, con le sue “scorte di dati personali” che servono solo ad “arricchire le aziende che li raccolgono”. Ha sottolineato che “questa è sorveglianza dà la possibilità di conoscerci meglio di quanto possiamo conoscere noi stessi… Questa crisi è reale. Non è qualcosa di immaginato, né esagerato o folle. E quelli di noi che credono nel potenziale della tecnologia per il bene della società non devono rifuggire da questa realtà“.
Non sorprende che alcuni siano piuttosto scettici riguardo alla sincerità dell’impegno di Cook a “non abbassare la guardia su questo tema“. Vedono una sorta campagna di marketing finalizzata a distanziare l’azienda dalla zona d’ombra in cui è caduto il settore tecnologico. Altri, hanno citato le incongruenze di Apple negli ultimi dieci anni: l’iPhone che utilizza la ricerca di Google, l’archiviazione dei dati degli utenti sui server cinesi, la mancanza di trasparenza su molte pratiche e sistemi di protezione dei dati raccolti da Apple e molte altre contraddizioni. Tim Bradshaw e Mehreen Khan, del Financial Times, osservano che è più facile per Apple avere una posizione forte sulla privacy quando i ricavi dell’azienda dipendono dalla vendita dei suoi dispositivi, non dalla pubblicità mirata.
Il paradosso dell privacy
Sono tutte critiche fondate, ma per molti la posizione di Cook infonde un forte senso di speranza, la percezione che qualcuno nell’industria abbia finalmente il coraggio di parlare. In 46 dei più importanti 48 sondaggi d’opinione condotti negli Stati Uniti e in Europa tra il 2008 e il 2017, si sono manifestate sostanziali maggioranze a favore di misure per migliorare la privacy e il controllo degli utenti sui dati personali. I primi sondaggi erano meno significativi, perché molti partecipanti non capivano come o quali informazioni personali venissero raccolte. Un importante sondaggio del 2009 ha rilevato che quando le persone sono informate sui modi in cui le aziende raccolgono dati per annunci online mirati, il 73% respinge tale uso dei dati a fini pubblicitari. Un sondaggio del 2015 ha rilevato che il 91% degli intervistati è in disaccordo sul fatto che la raccolta di informazioni personali “a loro insaputa” costituisca un giusto compromesso per uno sconto di prezzo.
Le aziende tecnologiche di solito respingono questi risultati, sottolineando il comportamento attuale degli utenti e i risultati spettacolari che produce questo stato di cose come giustificazione per lo status quo. Ricordiamo il famigerato benservito del 2009 dell’ex CEO di Google Eric Schmidt:“Se non hai nulla da nascondere, non ti devi preoccupare. Se non vuoi che non si sappia, non farlo“. Gli esperti definiscono il divario tra gli atteggiamenti e i comportamenti “il paradosso della privacy“, ma in realtà non è un paradosso. È la conseguenza dovuta alla battaglia campale tra offerta e domanda, espressa nella differenza tra ciò che il capitalismo della sorveglianza ci impone e ciò che realmente vogliamo.
Il divario storico di oggi tra offerta e domanda è un invito all’azione per i leader aziendali che hanno la lungimiranza e la convinzione di andare contro corrente. Resistere al capitalismo della sorveglianza non è semplicemente “la cosa giusta da fare”. Quasi tutti quelli che sono connessi a Internet invocano un percorso alternativo per il futuro digitale, che soddisfi le nostre esigenze senza compromettere la nostra privacy, e senza usurpare le nostre decisioni e diminuire la nostra autonomia. Date le forze in gioco, la persona con le migliori possibilità di forgiare un’alternativa ha bisogno di un notevole peso commerciale e politico dietro di lui. Questo potrebbe essere il contesto in cui entra in scena Tim Cook.
Uno studio del 2017 sui rendimenti del mercato azionario ha concluso che Apple ha generato le più alte rendite per gli investitori di qualsiasi altra società americana nel 20° e 21° secolo. Se Tim Cook vuole davvero agire in coerenza con le sue parole a Bruxelles, Apple dovrebbe mettersi alla guida di un percorso alternativo verso il futuro digitale, riunificando il capitalismo con le persone che dovrebbe servire. Cook ha detto che i presunti conflitti tra privacy-contro-profitto o privacy-contro-innovazione sono tesi sbagliate. In effetti, lo schema storico suggerisce che l’attuale disgiunzione tra offerta e domanda apre un’opportunità importantissima per un salto di qualità nello sviluppo del capitalismo.
La lotta per un capitalismo delle persone
In passato abbiamo già affrontato situazioni analoghe e siamo già stati sull’orlo del precipizio. “Siamo andati un po‘ a tentoni, cercando a gestire un nuovo ordine con modi antichi, ma dobbiamo iniziare a plasmare questo mondo nuovo“. Era il 1912 quando Thomas Edison espose la sua visione per una nuova civiltà industriale in una lettera a Henry Ford. Edison temeva che il potenziale dell’industrialismo di servire il progresso dell’umanità potesse essere ostacolato dal potere dei robber barons e dai monopolisti che allora governavano l’economia. Ha criticato lo status quo caratterizzato dallo “spreco” e dalla “crudeltà” del capitalismo americano. Sia Edison che Ford capirono che la moderna civiltà industriale, per la quale nutrivano molte speranze, stava precipitando verso un futuro segnato dalla miseria per i molti e dalla prosperità solo per pochi. Compresero anche che la vita morale della civiltà industriale sarebbe stata troppo modellata dalle pratiche del capitalismo selvaggio.
Tutto dovrebbe essere reinventato: nuove tecnologie, sì, ma queste dovrebbero riflettere nuovi modi per soddisfare i bisogni delle persone; un nuovo modello economico che potrebbe trasformare in risorse economiche queste nuove pratiche; e un nuovo contratto sociale che potrebbe sostenere tutto il sistema. I cittadini, i consumatori, i dirigenti, i lavoratori, i legislatori, i giuristi, gli studiosi, i giornalisti, i dirigenti e i funzionari pubblici, che hanno intrapreso questo sforzo, sono entrati in un territorio sconosciuto.
Il nostro tempo richiede questo tipo di salto creativo verso l’ignoto che può piegare la traiettoria del futuro digitale verso le persone. Senza una risposta creativa e coraggiosa, il capitalismo della sorveglianza continuerà a riempire questo vuoto. Se il capitalismo della sorveglianza deve essere interrotto, addomesticato, persino messo al bando, avremo bisogno di nuove leggi, regolamenti e forme di azione collettiva progettate su misura per i suoi meccanismi specifici. Per questi motivi e per altri mille, chiedo a Tim Cook e agli altri leader aziendali di ritagliarsi una nuova strada verso casa. Non saranno soli. Quelli di noi che vivono nello spazio tra la casa e l’esilio non si sottrarranno. La lotta per un futuro dell’uomo appartiene a tutti noi.
* * *
Shoshana Zuboff è professoressa Emerita al Charles Edward Wilson Institute presso la Harvard Business School. The Age of Surveillance Capitalism: The Fight for the Future at the New Frontier of Power è stato pubblicato il 31 gennaio da Profile Books
