Credo che nel nostro percorso, nella palesata ricerca di nuovi canali e strumenti di comunicazione che ci consentano di coinvolgere e diffondere le nostre sensibilità, sia essenziale conoscenza e coscienza degli strumenti oggi disponibili, che ci mettano in condizione di avere una visione quantomeno critica di ciò che ci circonda. Credo che l’articolo che segue, apparso sul New York Times il 29 gennaio scorso, offra fondamentali spunti di riflessione.
Possiamo avere la democrazia o una società di sorveglianza, ma non possiamo avere entrambe le cose.
Di Shoshana Zuboff, professore emerito presso la Harvard Business School, autore di “The Age of Surveillance Capitalism”. 29 gennaio 2021
Due decenni fa, il governo americano ha lasciato la porta d’ingresso della democrazia aperta alle nascenti società Internet della California, un fuoco accogliente acceso in segno di benvenuto. Negli anni che seguirono, in quelle stanze fiorì una società di sorveglianza, una visione sociale nata nelle esigenze distinte ma reciproche di agenzie di intelligence pubblica e società private di Internet, entrambe incantate da un sogno di totale consapevolezza dell’informazione. Vent’anni dopo, l’incendio è balzato sullo schermo e il 6 gennaio ha minacciato di incendiare la casa della democrazia.
Ho passato esattamente 42 anni a studiare l’ascesa del digitale come forza economica che guida la nostra trasformazione in una civiltà dell’informazione. Negli ultimi due decenni, ho osservato le conseguenze di questa sorprendente fratellanza politico-economica mentre quelle giovani aziende si sono trasformate in imperi di sorveglianza alimentati da architetture globali di monitoraggio comportamentale, analisi, targeting e previsione che ho chiamato capitalismo della sorveglianza.
Sulla base delle loro capacità di sorveglianza e per il bene dei loro profitti di sorveglianza, i nuovi imperi hanno progettato un colpo di stato epistemico fondamentalmente antidemocratico caratterizzato da concentrazioni senza precedenti di conoscenza su di noi e dal potere inspiegabile che si accumula a tale conoscenza.
In una civiltà dell’informazione, le società sono definite da questioni di conoscenza: come è distribuita, l’autorità che ne governa la distribuzione e il potere che protegge tale autorità. Chissà? Chi decide chi lo sa? Chi decide chi decide chi lo sa? I capitalisti della sorveglianza ora detengono le risposte a ogni domanda, anche se non li abbiamo mai eletti al governo. Questa è l’essenza del colpo di stato epistemico. Rivendicano l’autorità di decidere chi sa affermando i diritti di proprietà sulle nostre informazioni personali e difendono tale autorità con il potere di controllare i sistemi e le
infrastrutture informatiche critiche.
Le orribili profondità del tentato colpo di stato politico di Donald Trump cavalcano l’onda di questo colpo di stato ombra, perseguito negli ultimi due decenni dai media antisociali che una volta abbiamo accolto come agenti di liberazione. Il giorno dell’inaugurazione, il presidente Biden ha affermato che “la democrazia ha prevalso” e ha promesso di riportare il valore della verità al suo giusto posto nella società democratica. Tuttavia, la democrazia e la verità rimangono sotto il più alto livello di minaccia fino a quando non sconfiggeremo l’altro colpo di stato del capitalismo di sorveglianza.
Il colpo di stato epistemico procede in quattro fasi.
Il primo è l’appropriazione dei diritti epistemici, che getta le basi per tutto ciò che segue. Il capitalismo della sorveglianza nasce dalla scoperta che le aziende possono rivendicare la vita delle persone come materia prima gratuita per l’estrazione di dati comportamentali, che poi dichiarano loro proprietà privata.
La seconda fase è caratterizzata da un forte aumento della disuguaglianza epistemica , definita come la differenza tra ciò che posso sapere e ciò che si può sapere di me.
Il terzo stadio, che stiamo vivendo ora, introduce il caos epistemico causato dall’amplificazione, dalla diffusione e dal microtargeting algoritmico guidato dal profitto di informazioni corrotte, in gran parte prodotte da schemi coordinati di disinformazione. I suoi effetti si fanno sentire nel mondo reale, dove frantumano la realtà condivisa, avvelenano il discorso sociale, paralizzano la politica democratica e
talvolta istigano violenza e morte.
Nella quarta fase, il dominio epistemico è istituzionalizzato, prevalendo sulla governance democratica con la governance computazionale da parte del capitale di sorveglianza privato. Le macchine sanno, e i sistemi decidono, diretti e sostenuti dall’autorità illegittima e dal potere antidemocratico del capitale privato di sorveglianza. Ogni fase si basa sull’ultima. Il caos epistemico prepara il terreno per il dominio epistemico indebolendo la società democratica – fin troppo evidente nell’insurrezione al Campidoglio degli Stati Uniti.
Viviamo nel secolo digitale durante gli anni formativi della civiltà dell’informazione. Il nostro tempo è paragonabile alla prima era dell’industrializzazione, quando i proprietari avevano tutto il potere, i loro diritti di proprietà privilegiati sopra ogni altra considerazione. L’intollerabile verità della nostra attuale condizione è che l’America e la maggior parte delle altre democrazie liberali hanno, finora, ceduto la proprietà e il funzionamento di tutto ciò che è digitale all’economia politica del capitale della sorveglianza privata, che ora compete con la democrazia sui diritti e principi fondamentali che definirà il nostro ordine sociale in questo secolo.
Lo scorso anno di miseria pandemica e autocrazia trumpista ha amplificato gli effetti del colpo di stato epistemico, rivelando il potenziale omicida dei media antisociali molto prima del 6 gennaio. Il crescente riconoscimento di questo altro colpo di stato e delle sue minacce alle società democratiche ci costringerà finalmente a fare i conti con la scomoda verità che si è profilata negli ultimi due decenni? Potremmo avere la democrazia, o potremmo avere una società di sorveglianza, ma non possiamo avere entrambe le cose. Una società di sorveglianza democratica è un’impossibilità esistenziale e politica. Non commettere errori: questa è la lotta per l’anima della nostra civiltà
dell’informazione.
Benvenuti nella terza decade.
L’eccezione di sorveglianza
La tragedia pubblica dell’11 settembre ha spostato radicalmente l’attenzione a Washington dai dibattiti sulla legislazione federale sulla privacy a una mania per la totale consapevolezza delle informazioni, trasformando le innovative pratiche di sorveglianza della Silicon Valley in oggetti di intenso interesse. Come ha osservato Jack Balkin, professore alla Yale Law School, la comunità dell’intelligence dovrebbe “fare affidamento su un’impresa privata per raccogliere e generare informazioni per essa”, al fine di andare oltre i vincoli costituzionali, legali o normativi, controversie che sono centrali. oggi. Entro il 2013, ha delineato il chief technology officer della CIA la missione dell’agenzia “raccogliere tutto e mantenerlo per sempre”, riconoscendo le società di Internet, tra cui Google, Facebook, YouTube, Twitter e Fitbit e le società di telecomunicazioni, per aver reso possibile tutto ciò. Le radici rivoluzionarie del capitalismo della sorveglianza sono piantate in questa dottrina politica non scritta dell’eccezionalismo della sorveglianza, che aggira il controllo democratico e essenzialmente concede alle nuove società Internet una licenza per rubare l’esperienza umana e renderla come dati proprietari.
I giovani imprenditori senza alcun mandato democratico hanno ottenuto una manna di informazioni infinite e potere inspiegabile. I fondatori di Google, Larry Page e Sergey Brin, hanno esercitato il controllo assoluto sulla produzione, organizzazione e presentazione delle informazioni mondiali.
Mark Zuckerberg di Facebook ha avuto il controllo assoluto su quello che sarebbe diventato un mezzo primario di comunicazione globale e consumo di notizie, insieme a tutte le informazioni nascoste nelle sue reti. L’appartenenza al gruppo è cresciuta e una crescente popolazione di utenti globali ha proceduto inconsapevole di ciò che è appena accaduto.
La licenza di rubare ha avuto un prezzo, vincolando i dirigenti al continuo patrocinio di funzionari eletti e regolatori, nonché alla continua ignoranza, o almeno alla rassegnazione appresa, degli utenti. La dottrina era, dopotutto, una dottrina politica e la sua difesa avrebbe richiesto un futuro di manovre politiche, pacificazione, impegno e investimenti.
Google ha aperto la strada con quella che sarebbe diventata una delle macchine di lobbying più ricche al mondo. Nel 2018 quasi la metà del Senato ha ricevuto contributi da Facebook, Google e Amazon e le società continuano a stabilire record di spesa .
La cosa più significativa è che l’eccezionalismo della sorveglianza ha significato che gli Stati Uniti e molte altre democrazie liberali hanno scelto la sorveglianza sulla democrazia come principio guida dell’ordine sociale. Con questa rinuncia, i governi democratici hanno paralizzato la loro capacità di mantenere la fiducia del loro popolo, intensificando la logica della sorveglianza.
L’economia e la politica del caos epistemico
Per comprendere l’economia del caos epistemico, è importante sapere che le operazioni del capitalismo di sorveglianza non hanno alcun interesse formale nei fatti. Tutti i dati sono accolti come equivalenti, anche se non tutti sono uguali. Le operazioni di estrazione procedono con la disciplina del Ciclope, consumando voracemente tutto ciò che vede e radicalmente indifferente al significato, ai fatti e alla verità.
In un promemoria trapelato , un dirigente di Facebook, Andrew Bosworth, descrive questo disprezzo intenzionale per la verità e il significato: “Mettiamo in contatto le persone. Può essere positivo se lo rendono positivo. Forse qualcuno trova l’amore. … Questo può essere negativo se lo rendono negativo. … Forse qualcuno muore in un attacco terroristico. … La brutta verità è … tutto ciò che ci permette di connettere più persone più spesso è * de facto * buono. “
In altre parole, chiedere a un estrattore di sorveglianza di rifiutare il contenuto è come chiedere a un’azienda di estrazione del carbone di scartare contenitori di carbone perché sono troppo sporchi.
Questo è il motivo per cui la moderazione dei contenuti è l’ultima risorsa, un’operazione di pubbliche relazioni nello spirito dei messaggi di responsabilità sociale di ExxonMobil. Nel caso di Facebook, il triage dei dati viene intrapreso per ridurre al minimo il rischio di ritiro dell’utente o per evitare sanzioni politiche. Entrambi mirano ad aumentare piuttosto che diminuire i flussi di dati.
L’imperativo dell’estrazione combinato con l’indifferenza radicale per produrre sistemi che aumentano incessantemente la scala del coinvolgimento ma non si preoccupano di ciò che ti coinvolge.
Mi sto concentrando ora su Facebook non perché sia l’unico autore del caos epistemico, ma perché è la più grande azienda di social media e le sue conseguenze sono le più lontane.
L’economia del capitalismo della sorveglianza ha generato i Ciclopi estrattivi, trasformando Facebook in un colosso pubblicitario e un campo di sterminio per la verità. Poi un amorale Mr.Trump è diventato presidente, chiedendo il diritto di mentire su larga scala. L’economia distruttiva si è fusa con la pacificazione politica e tutto è diventato infinitamente peggiore.
La chiave di questa storia è che la politica di pacificazione richiedeva poco più di un rifiuto per mitigare, modificare o eliminare la brutta verità dell’economia della sorveglianza. Gli imperativi economici del capitalismo di sorveglianza hanno trasformato Facebook in una polveriera sociale. Il signor Zuckerberg ha dovuto semplicemente dimettersi e impegnarsi nel ruolo di spettatore.
Una ricerca interna presentata nel 2016 e nel 2017 ha dimostrato i collegamenti causali tra i meccanismi di targeting algoritmico di Facebook e il caos epistemico. Un ricercatore ha concluso che gli algoritmi erano responsabili della diffusione virale di contenuti divisivi che hanno contribuito ad alimentare la crescita dei gruppi estremisti tedeschi. Gli strumenti di raccomandazione rappresentavano il 64% delle “adesioni a gruppi estremisti”, ha scoperto – dinamiche non esclusive della Germania .
Lo scandalo di Cambridge Analytica nel marzo 2018 ha attirato l’attenzione del mondo su Facebook in un modo nuovo, offrendo una finestra per un cambiamento audace. Il pubblico ha iniziato a capire che l’attività di pubblicità politica di Facebook è un modo per affittare la suite di capacità dell’azienda per microtargettare gli utenti, manipolarli e seminare il caos epistemico, facendo ruotare l’intera macchina di pochi gradi da obiettivi commerciali a obiettivi politici.
La società ha lanciato alcune modeste iniziative, promettendo maggiore trasparenza, un sistema più robusto di fact checker di terze parti e una politica per limitare il “comportamento non autentico coordinato”, ma nonostante tutto, Zuckerberg ha concesso il campo alle richieste di Trump accesso al flusso sanguigno delle informazioni globali.
Il signor Zuckerberg ha respinto le proposte interne di cambiamenti operativi che avrebbero ridotto il caos epistemico. Una whitelist politica ha identificato oltre 100.000 funzionari e candidati i cui account sono stati esentati dal controllo dei fatti, nonostante una ricerca interna abbia dimostrato che gli utenti tendono a credere alle informazioni false condivise dai politici. Nel settembre 2019 la società ha affermato che la pubblicità politica non sarebbe stata soggetta a verifica dei fatti.
Per placare le sue critiche nel 2018, il signor Zuckerberg ha commissionato una verifica sui diritti civili guidata da Laura Murphy, ex direttrice dell’ufficio legislativo dell’ACLU a Washington. Il rapporto pubblicato nel 2020 è un cri de coeur espresso in un fiume di parole che testimoniano speranze deluse: “scoraggiato”, “frustrato”, “arrabbiato”, “sgomento”, “timoroso”, “straziante”.
Il rapporto è coerente con una rottura quasi completa della fiducia del pubblico americano nella Big Tech. Alla domanda su come Facebook si adatterebbe a un cambiamento politico verso una possibile amministrazione Biden, un portavoce dell’azienda, Nick Clegg, ha risposto: “Ci adatteremo all’ambiente in cui operiamo”. E così è stato. Il 7 gennaio, il giorno dopo che è diventato chiaro che i democratici avrebbero controllato il Senato, Facebook ha annunciato che avrebbe bloccato a tempo indeterminato l’account di Trump.
Dobbiamo credere che gli effetti distruttivi del caos epistemico siano il costo inevitabile dei preziosi diritti alla libertà di parola. No. Così come i livelli catastrofici di anidride carbonica nell’atmosfera terrestre sono la conseguenza della combustione di combustibili fossili, il caos epistemico è una conseguenza delle operazioni commerciali fondamentali del capitalismo di sorveglianza, aggravate dagli obblighi politici e messe in moto da un sogno di 20 anni di informazioni totali che sono scivolate nell’incubo. Poi una piaga è arrivata in America, trasformando la conflagrazione
antisociale dei media in un incendio.
Il caos epistemico incontra un misterioso microrganismo
Già nel febbraio 2020, l’Organizzazione Mondiale della Sanità ha segnalato una “infodemia” Covid-19, con miti e voci che si diffondevano sui social media. A marzo, i ricercatori dell’MD Anderson Cancer Center dell’Università del Texas hanno concluso che la disinformazione medica relativa al coronavirus veniva “propagata a una velocità allarmante sui social media”, mettendo in pericolo la sicurezza pubblica.
Il Washington Post ha riferito alla fine di marzo che con quasi il 50% dei contenuti del feed di notizie di Facebook relativi al Covid-19, un numero molto piccolo di “utenti influenti” guidava le abitudini di lettura e i feed di un vasto numero di utenti. Uno studio pubblicato ad aprile dal Reuters Institute ha confermato che politici di alto livello, celebrità e altri personaggi pubblici di spicco hanno prodotto il 20% della disinformazione nel loro campione, ma hanno attirato il 69% degli impegni sui social media nel loro campione.
Uno studio pubblicato a maggio dall’Institute for Strategic Dialogue britannico ha identificato un gruppo centrale di 34 siti web di estrema destra che diffondono disinformazione Covid o collegati a centri di disinformazione sanitaria consolidati ora incentrati sul Covid-19. Da gennaio ad aprile 2020, i post pubblici di Facebook che si collegano a questi siti Web hanno raccolto 80 milioni di interazioni, mentre i post che collegano al sito Web dell’OMS hanno ricevuto 6,2 milioni di interazioni e i Centri per il controllo e la prevenzione delle malattie ne hanno ricevuti 6,4 milioni.
Uno studio di Avaaz pubblicato ad agosto ha rivelato 82 siti web che diffondono disinformazione Covid raggiungendo un picco di quasi mezzo miliardo di visualizzazioni su Facebook ad aprile. I contenuti dei 10 siti Web più popolari hanno attirato circa 300 milioni di visualizzazioni su Facebook, rispetto ai 70 milioni di 10 importanti istituzioni sanitarie. I modesti sforzi di moderazione dei contenuti di Facebook non erano all’altezza dei suoi sistemi di macchine progettati per il caos epistemico.
A ottobre un rapporto del National Center for Disaster Preparedness della Columbia University ha stimato il numero di morti evitabili per Covid-19. Più di 217.000 americani erano morti.
Tragicamente, l’analisi ha concluso che almeno 130.000 di quelle morti avrebbero potuto essere evitate. Dei quattro motivi chiave citati, i dettagli di ciascuno, tra cui la “mancanza di mandato per la maschera” e “fuorviare il pubblico”, riflettono l’orgia del caos epistemico scatenato sulle figlie e sui figli americani.
Questo è il mondo in cui è fiorito un microrganismo mortale e misterioso. Ci siamo rivolti a Facebook in cerca di informazioni. Invece abbiamo trovato strategie letali di caos epistemico a scopo di lucro.
Terrorismo epistemico
Nel 1966, Peter Berger e Thomas Luckmann scrissero un breve libro di fondamentale importanza, “The Social Construction of Reality”. La sua osservazione centrale è che la “vita quotidiana” che sperimentiamo come “realtà” è attivamente e perennemente costruita da noi. Questo continuo miracolo dell’ordine sociale si basa sulla “conoscenza del buon senso”, che è “la conoscenza che condividiamo con gli altri nella normale routine autoevidente della vita quotidiana”.
Pensa al traffico: non ci sono abbastanza agenti di polizia nel mondo per garantire che ogni macchina si fermi a ogni semaforo rosso, ma non tutti gli incroci innesca una trattativa o una rissa.
Questo perché in società ordinate sappiamo tutti che le luci rosse hanno l’autorità di farci fermare e le luci verdi sono autorizzate a lasciarci andare. Questo buon senso significa che ognuno di noi agisce in base a ciò che tutti sappiamo, fiduciosi che anche gli altri lo faranno. Non stiamo soloobbedendo alle leggi; stiamo creando ordine insieme. La nostra ricompensa è vivere in un mondo in cui per lo più arriviamo dove stiamo andando e torniamo a casa in sicurezza perché possiamo fidarci del buon senso gli uni degli altri. Nessuna società è vitale senza di essa.
” Tutte le società sono costruzioni di fronte al caos”, scrivono Berger e Luckmann. Poiché le norme sono sintesi del nostro buon senso, la violazione delle norme è l’essenza del terrorismo – terrificante perché ripudia le certezze sociali più date per scontate. “La violazione delle norme crea un pubblico attento oltre l’obiettivo del terrore”, scrivono Alex P. Schmid e Albert J. Jongman in “Political Terrorism”, un testo ampiamente citato sull’argomento. Tutti sperimentano lo shock, il disorientamento e la paura. La legittimità e la continuità delle nostre istituzioni sono essenziali perché ci proteggono dal caos formalizzando il nostro buon senso.
La morte di re e il trasferimento pacifico del potere nelle democrazie sono momenti critici che accrescono la vulnerabilità della società. Le norme e le leggi che guidano questi frangenti sono giustamente trattate con la massima gravità. Il signor Trump ei suoi alleati hanno perseguito una campagna di disinformazione per frode elettorale che alla fine si è tradotta in violenza. Ha preso di mira direttamente il punto di massima vulnerabilità istituzionale della democrazia americana e le sue norme fondamentali. In quanto tale, si qualifica come una forma di terrorismo epistemico, un’espressione estrema del caos epistemico. La determinazione del signor Zuckerberg a prestare la sua macchina economica alla causa lo rende un complice di questo assalto.
Come il baseball, la realtà quotidiana è un’avventura che inizia e finisce a casa base, dove siamo al sicuro. Nessuna società può controllare tutto in ogni momento, tanto meno una società democratica.
Una società sana si basa su un consenso su cosa sia una deviazione e cosa sia normale. Ci avventuriamo fuori dalla norma, ma conosciamo la differenza tra l’outfield e la casa, la realtà della vita di tutti i giorni. Senza quello, come ora abbiamo sperimentato, le cose cadono a pezzi.
Democratici che bevono sangue? Certo, perché no? Idrossiclorochina per Covid-19? Proprio in questo modo! Assaltare il Campidoglio e rendere il signor Trump dittatore? Sì, ce l’abbiamo!
La società si rinnova con l’evoluzione del buon senso. Ciò richiede istituzioni di discorso sociale affidabili, trasparenti e rispettose, soprattutto quando siamo in disaccordo. Invece siamo gravati dall’opposto, quasi 20 anni in un mondo dominato da un’istituzione politico-economica che opera come una macchina del caos a noleggio, in cui la violazione delle norme è la chiave per le entrate.
Gli uomini non più giovani dei social media difendono le loro macchine del caos con una versione distorta dei diritti del Primo Emendamento. I social media non sono una piazza pubblica ma privata governata dalle operazioni delle macchine e dai loro imperativi economici, incapaci e disinteressati di distinguere la verità dalle bugie o il rinnovamento dalla distruzione.
Per molti che considerano la libertà di parola un diritto sacro, l’opinione dissenziente del 1919 del giudice Oliver Wendell Holmes in Abrams contro gli Stati Uniti è una pietra di paragone. “Il massimo bene desiderato è meglio raggiunto dal libero scambio di idee”, ha scritto. “Il miglior test di verità è il potere del pensiero di farsi accettare nella concorrenza del mercato.” L’informazione corrotta che domina la piazza privata non è al vertice di una libera e leale competizione di idee.
Vince in un gioco truccato. Nessuna democrazia può sopravvivere a questo gioco.
La nostra suscettibilità alla distruzione del buon senso riflette una giovane civiltà dell’informazione che non ha ancora trovato le sue basi nella democrazia. A meno che non interrompiamo l’economia della sorveglianza e revociamo la licenza di rubare che legittima le sue operazioni antisociali, l’altro colpo di stato continuerà a rafforzarsi e produrre nuove crisi. Cosa si deve fare adesso?
Tre principi per il terzo decennio
Cominciamo con un esperimento mentale: immagina un XX secolo senza leggi federali per regolamentare il lavoro minorile o affermare standard per salari, orari e sicurezza dei lavoratori; nessun diritto dei lavoratori di aderire a un sindacato, sciopero o contrattare collettivamente; nessun diritto dei consumatori; e nessuna istituzione governativa che sovrintenda a leggi e politiche intese a rendere il secolo industriale sicuro per la democrazia. Invece, ogni azienda era lasciata a decidere autonomamente quali diritti avrebbe riconosciuto, quali politiche e pratiche avrebbe impiegato e come sarebbero stati distribuiti i suoi profitti. Fortunatamente, quei diritti, leggi e istituzioni esistevano, inventati da persone nel corso di decenni nelle democrazie del mondo. Per quanto importanti restino quelle invenzioni straordinarie, non ci proteggono dal colpo di stato epistemico e dai suoi effetti antidemocratici.
Il deficit riflette un modello più ampio: gli Stati Uniti e le altre democrazie liberali del mondo finora non sono riuscite a costruire una visione politica coerente di un secolo digitale che promuova valori, principi e governo democratici. Mentre i cinesi hanno progettato e implementato tecnologie digitali per far avanzare il loro sistema di governo autoritario, l’Occidente è rimasto compromesso e ambivalente.
Questo fallimento ha lasciato un vuoto dove dovrebbe essere la democrazia, e il pericoloso risultato è stato una deriva di due decenni verso sistemi privati di sorveglianza e controllo comportamentale al di fuori dei vincoli del governo democratico. Questa è la strada per la fase finale del colpo di stato epistemico . Il risultato è che le nostre democrazie marciano nude verso il terzo decennio senza le nuove carte dei diritti, quadri giuridici e forme istituzionali necessarie per garantire un futuro digitale compatibile con le aspirazioni di una società democratica.
Siamo ancora agli inizi di una civiltà dell’informazione. Il terzo decennio è la nostra opportunità per abbinare l’ingegnosità e la determinazione dei nostri antenati del XX secolo, costruendo le basi per un secolo digitale democratico.
La democrazia è sotto il tipo di assedio che solo la democrazia può porre fine. Se vogliamo sconfiggere il colpo di stato epistemico, la democrazia deve essere la protagonista.
Offro tre principi che possono aiutare a guidare questi inizi:
Lo stato di diritto democratico
Il digitale deve vivere nella casa della democrazia, non come un piromane ma come un membro della famiglia, soggetto e prospero alle sue leggi e ai suoi valori. Il gigante addormentato della democrazia finalmente si muove, con importanti iniziative legislative e legali in corso in America e in Europa. Negli Stati Uniti, cinque progetti di legge completi , 15 progetti di legge correlati e un’importante proposta legislativa , ciascuno con un significato materiale per il capitalismo della sorveglianza, sono stati introdotti al Congresso dal 2019 alla metà del 2020. I californiani hanno
accolto favorevolmente la legislazione sulla privacy fondamentale . Nel 2020 la sottocommissione del Congresso per il diritto antitrust, commerciale e amministrativo ha pubblicato un’analisi di vasta portatadel caso antitrust contro i giganti della tecnologia. A ottobre il Dipartimento di Giustizia, a cui aderiscono 11 stati, ha avviato una causa antitrust federale contro Google per abuso del suo monopolio della ricerca online. A dicembre la Federal Trade Commission ha intentato una causa storica contro Facebook per azioni anticoncorrenziali, unita a una causa da parte di 48 procuratori
generali. Questi sono stati rapidamente seguiti da una causa lanciata da 38 avvocati generali che sfidavano il motore di ricerca principale di Google come mezzo anticoncorrenziale per bloccare i rivali e privilegiare i propri servizi.
Le argomentazioni antitrust sono importanti per due ragioni: segnalano che la democrazia è di nuovo in movimento e legittimano una maggiore attenzione normativa alle società designate come dominanti sul mercato. Ma quando si tratta di sconfiggere il colpo di stato epistemico, il paradigma antitrust non è all’altezza. Ecco perché.
Il passaggio all’antitrust richiama le pratiche anticoncorrenziali e le concentrazioni di potere economico nei monopoli dell’Età dell’Oro. Come ha spiegato Tim Wu, un sostenitore dell’antitrust sul Times, “la strategia di Facebook era simile a quella di John D. Rockefeller alla Standard Oil durante gli anni ottanta del XIX secolo. Entrambe le società hanno scansionato l’orizzonte del mercato, alla ricerca di potenziali concorrenti, e poi li hanno acquistati o seppelliti “. Ha aggiunto che “è stato proprio questo modello di business che il Congresso ha vietato nel 1890” con lo Sherman Antitrust Act.
È vero che Facebook, Google e Amazon, tra gli altri, sono spietati capitalisti oltre che spietati capitalisti della sorveglianza, ma l’attenzione esclusiva sul loro potere monopolistico in stile Standard Oil solleva due problemi. In primo luogo, l’antitrust non ha avuto successo, anche secondo i termini dei suoi procuratori di fine Ottocento e inizio Novecento e il loro obiettivo di porre fine alle ingiuste concentrazioni di potere economico nell’industria petrolifera. Nel 1911 una decisione della Corte Suprema ha suddiviso la Standard Oil in 34 società del settore dei combustibili fossili. Il valore complessivo delle società si è rivelato maggiore dell’originale. Il più grande dei 34 aveva tutti i vantaggi dell’infrastruttura e della scala di Standard Oil e si mosse rapidamente verso fusioni e acquisizioni, diventando imperi dei combustibili fossili a pieno titolo, tra cui Exxon e Mobil (che divenne ExxonMobil), Amoco e Chevron.
Un secondo e molto più significativo problema con l’antitrust è che, sebbene possa essere importante affrontare le pratiche anticoncorrenziali in aziende spietate, non è sufficiente per affrontare i danni del capitalismo della sorveglianza, non più di quanto la decisione del 1911 affronti i danni della produzione di combustibili fossili e consumo. Piuttosto che valutare Facebook, Amazon o Google attraverso una lente del XIX secolo, dovremmo reinterpretare il caso della Standard Oil dalla prospettiva del nostro secolo.
Un altro esperimento mentale: immagina che l’America del 1911 comprendesse la scienza del cambiamento climatico. La decisione del tribunale di scioglimento avrebbe affrontato le pratiche anticoncorrenziali della Standard Oil ignorando il caso molto più consequenziale: l’estrazione, la raffinazione, la vendita e l’uso di combustibili fossili avrebbero distrutto il pianeta. Se i giuristi e i legislatori di quell’epoca avessero ignorato questi fatti, avremmo considerato le loro azioni come una macchia nella storia americana.
In effetti, la decisione del tribunale ha ignorato le minacce molto più pressanti per i lavoratori e i consumatori americani. Uno storico del diritto americano, Lawrence Friedman, descrive lo Sherman Antitrust Act come “una specie di frode” che ha ottenuto poco se non per soddisfare “esigenze politiche”. Spiega che il Congresso “ha dovuto rispondere alla chiamata all’azione – qualche azione, qualsiasi azione – contro i trust” e l’atto è stata la loro risposta. Allora come adesso, la gente voleva un assassino gigante.
Si sono rivolti alla legge come l’unica forza in grado di correggere gli equilibri di potere. Ma ci sono voluti decenni prima che i legislatori affrontassero finalmente le vere fonti di danno codificando nuovi diritti per lavoratori e consumatori. Il National Labor Relations Act, che garantiva il diritto di sindacalizzarsi mentre regolava le azioni dei datori di lavoro, non fu emanato fino al 1935, 45 anni dopo lo Sherman Antitrust Act. Non abbiamo 45 anni – o 20 o 10 – per indugiare prima di affrontare i veri danni del colpo di stato epistemico e le loro cause.
Potrebbero esserci valide ragioni antitrust per rompere i grandi imperi tecnologici, ma suddividere Facebook o uno qualsiasi degli altri negli equivalenti capitalisti della sorveglianza di Exxon, Chevron e Mobil non ci proteggerebbe dai pericoli chiari e presenti del capitalismo della sorveglianza. Il nostro tempo richiede di più.
Le nuove condizioni richiamano nuovi diritti
Nuovi diritti legali sono cristallizzati in risposta alle mutevoli condizioni di vita. L’impegno del giudice Louis Brandeis per i diritti alla privacy, ad esempio, è stato stimolato dalla diffusione della fotografia e dalla sua capacità di invadere e rubare ciò che era considerato privato.
Una civiltà dell’informazione democratica non può progredire senza nuove carte dei diritti epistemici che proteggano i cittadini dall’invasione e dal furto su vasta scala obbligati dall’economia della sorveglianza. Durante la maggior parte dell’età moderna, i cittadini delle società democratiche hanno considerato l’esperienza di una persona come inseparabile dall’individuo – inalienabile. Ne consegue che il diritto di conoscere la propria esperienza è stato considerato elementare, legato a ciascuno di noi come un’ombra. Ognuno di noi decide se e come condividere la nostra esperienza, con chi e per quale scopo.
Scrivendo nel 1967, il giudice William Douglas ha sostenuto che gli autori del Bill of Rights credevano che “l’individuo dovrebbe avere la libertà di selezionare da solo il momento e le circostanze in cui condividerà i suoi segreti con gli altri e deciderà l’entità di tale condivisione”.
Quella “libertà di scelta” è il diritto epistemico elementare di conoscere noi stessi, la causa da cui scaturisce tutta la privacy.
Ad esempio, in quanto portatore naturale di tali diritti, non concedo al riconoscimento facciale di Amazon il diritto di conoscere e sfruttare la mia paura per il targeting e le previsioni comportamentali a vantaggio degli scopi commerciali degli altri. Non è semplicemente che i miei sentimenti non sono in vendita, è che i miei sentimenti sono invendibili perché sono inalienabili.
Non do ad Amazon la mia paura, ma me la prendono comunque , solo un altro punto dati nei trilioni alimentati alle macchine quel giorno.
I nostri diritti epistemici elementari non sono codificati dalla legge perché non sono mai stati minacciati sistematicamente, così come non abbiamo leggi per proteggere i nostri diritti di alzarci in piedi, sederci o sbadigliare.
Ma i capitalisti della sorveglianza hanno dichiarato il loro diritto di conoscere le nostre vite. Inizia così una nuova era, fondata e protetta dalla dottrina non scritta dell’eccezionalismo della sorveglianza. Ora il diritto una volta dato per scontato di sapere e di decidere chi sa di noi deve essere codificato in legge e protetto dalle istituzioni democratiche, se deve esistere.
Danni senza precedenti richiedono soluzioni senza precedenti
Proprio come le nuove condizioni di vita rivelano la necessità di nuovi diritti, i danni del colpo di stato epistemico richiedono soluzioni mirate. È così che il diritto si evolve, crescendo e adattandosi da un’era all’altra.
Quando si tratta delle nuove condizioni imposte dal capitalismo della sorveglianza, la maggior parte delle discussioni su leggi e regolamenti si concentrano a valle su argomenti sui dati, compresa la loro privacy, accessibilità, trasparenza e portabilità, o su schemi per acquistare la nostra acquiescenza con pagamenti (minimi) per i dati.
A valle è dove discutiamo sulla moderazione dei contenuti e sulle bolle di filtraggio, dove legislatori e cittadini pestano i piedi contro i dirigenti recalcitranti.A valle è dove le aziende vogliono che siamo, così consumati nei dettagli del contratto di proprietà che dimentichiamo il vero problema, che è che la loro stessa rivendicazione di proprietà è
illegittima.
Quali soluzioni senza precedenti possono affrontare i danni senza precedenti del colpo di stato epistemico? Per prima cosa, andiamo a monte della fornitura e terminiamo le operazioni di raccolta dati della sorveglianza commerciale. A monte, la licenza per rubare fa i suoi implacabili miracoli, impiegando strategie di sorveglianza per trasformare la goccia dell’esperienza umana – la mia paura, la loro conversazione a colazione, la tua passeggiata nel parco – nell’oro delle forniture di dati proprietari. Abbiamo bisogno di quadri giuridici che interrompano e vietino l’estrazione su vasta
scala dell’esperienza umana. Le leggi che interrompono la raccolta dei dati metterebbero fine alle catene di approvvigionamento illegittime del capitalismo di sorveglianza. Gli algoritmi che raccomandano, microtarget e manipolano, ei milioni di previsioni comportamentali emesse dal secondo non possono esistere senza i trilioni di punti dati forniti loro ogni giorno.
Successivamente, abbiamo bisogno di leggi che leghino la raccolta dei dati ai diritti fondamentali e l’utilizzo dei dati al servizio pubblico, affrontando le reali esigenze delle persone e delle comunità. I dati non sono più il mezzo di guerra dell’informazione condotta contro gli innocenti.
Terzo, interrompiamo gli incentivi finanziari che premiano l’economia della sorveglianza. Possiamo vietare le pratiche commerciali che richiedono una raccolta di dati rapaci. Le società democratiche hanno messo fuori legge i mercati che commerciano in organi umani e bambini. I mercati che commerciano in esseri umani erano fuorilegge, anche quando sostenevano intere economie.
Questi principi stanno già plasmando l’azione democratica. La Federal Trade Commission ha avviato uno studio sui social media e le società di streaming video meno di una settimana dopo aver presentato la sua causa contro Facebook e ha affermato che intendeva “sollevare il cofano” delle operazioni interne “per studiare attentamente i loro motori”. Una dichiarazione di tre commissari ha preso di mira le aziende tecnologiche “in grado di sorvegliare e monetizzare … le nostre vite personali”, aggiungendo che “troppo del settore rimane pericolosamente opaco”.
Se approvate, proposte legislative innovative nell’Unione europea e in Gran Bretagna inizieranno a istituzionalizzare i tre principi. Il quadro dell’UE affermerebbe una governance democratica sulle scatole nere delle operazioni interne delle piattaforme più grandi, comprese le autorità di audit e di applicazione complete. I diritti fondamentali e lo Stato di diritto non evaporerebbero più al confine cibernetico, poiché i legislatori insistono su “un ambiente online sicuro, prevedibile e affidabile”. In Gran Bretagna, l’ Online Harms Bill stabilirà un “dovere di diligenza” legale che ritenga le società tecnologiche responsabili dei danni pubblici e includa nuove ampie autorità e poteri di applicazione.
Due sentenze spesso attribuite al giudice Brandeis figurano nell’impressionante rapporto antitrust della sottocommissione del Congresso. “Dobbiamo fare la nostra scelta. Potremmo avere la democrazia, o potremmo avere la ricchezza concentrata nelle mani di pochi, ma non possiamo avere entrambe le cose “. L’affermazione così rilevante per i tempi di Brandeis rimane un commento pungente al vecchio capitalismo che conosciamo, ma ignora il nuovo capitalismo che ci conosce. A meno che la democrazia non revochi la licenza di rubare e metta in discussione l’economia e le operazioni fondamentali della sorveglianza commerciale, il colpo di stato epistemico indebolirà e
alla fine trasformerà la democrazia stessa. Dobbiamo fare la nostra scelta. Potremmo avere la democrazia, o potremmo avere una società di sorveglianza, ma non possiamo avere entrambe le cose. Abbiamo una civiltà dell’informazione democratica da costruire e non c’è tempo da perdere.
Shoshana Zuboff è professore emerito alla Harvard Business School e autrice di “The Age of Surveillance Capitalism”.
Una versione di questo articolo appare in stampa il 31 gennaio 2021 , Sezione SR , Pagina 4 dell’edizione di New York con il titolo: The Knowledge Coup .
Puoi trovare l’articolo originale, pubblicato il 12 gennaio 2021 sul New York Times, cliccando su questo link