da ANDRE CAMPOS ROCHA*
Considerazioni sull'impatto delle trasformazioni digitali
Uno degli aspetti fondamentali della rivoluzione digitale è la conversione di numerosi eventi e fenomeni quotidiani - eventi, suoni, immagini, documenti e così via - nel linguaggio binario, 0 e 1, dei computer, che possono così analizzare, misurare, confrontare e generare previsioni o apprendere schemi e relazioni tra le cose nel mondo che a volte si rivelano strane al buon senso.
In questo processo emerge un nuovo scenario culturale, segnato da una rottura radicale con le precedenti forme di vita. Basta guardare, ad esempio, il nostro smartphone, questi dispositivi compatti e potenti, che ci accompagnano dal risveglio all'ora di andare a letto, e che rendono obsolete le esperienze che fino a poco tempo fa costituivano il tessuto della nostra quotidianità, ormai superata dai ritmi frenetici della trasformazione digitale.
Chi ancora oggi esce di casa con il portafogli pieno di documenti, se ciò che appartiene alla nostra vita privata viene debitamente impacchettato e compresso nel nostro bit di informazioni dai nostri dispositivi elettronici? Chi si ricorda l'ultima volta che hanno alzato la mano per ordinare un taxi, in un'attesa forse angosciata, visto che il mercato del trasporto privato è sempre più dominato dalle piattaforme digitali? Quale sarà il destino delle banconote e delle monete (e anche dei maialini con cui adornavamo le nostre case) o anche delle mappe fisiche, se le nostre transazioni finanziarie e i mezzi di orientamento spaziale sono integrati direttamente nel nostro Smarts?
Smaterializzando e sussumettendo le cose in un unico oggetto, il smartphone ritrarre la subordinazione della cadenza del cambiamento delle nostre abitudini e convenzioni alle dinamiche dell'innovazione digitale. Anzi, questi manufatti, vere e proprie sintesi delle recenti conquiste tecniche, denunciano, dal rimescolamento delle sfere del lavoro e del tempo libero fino all'indistinzione (cos'è un social network se non una commistione di svago e divertimento con spazio per le pubblicità e pubblicità?), poiché queste stesse abitudini e comportamenti ordinari sono inscritti negli assetti finanziari, tecnici, legali e operativi che sostengono e guidano l'universo digitale. Poiché ci sono evidenti squilibri di potere nella capacità e nell'iniziativa per modellarlo, il mondo che ci viene mostrato sugli schermi non è una rappresentazione neutra. È progettato in base agli interessi di quelle aziende e istituzioni che controllano i nostri dati. Sebbene siamo consapevoli che entrando in questo universo rinunciamo alla nostra privacy e intimità, i termini dell'accordo non sono sempre chiari. L'implicazione di ciò è che per operare quotidianamente con competenza, dipendiamo da un insieme di attori tecnici che non conosciamo, i leader di un universo la cui logica operativa ci è opaca e le cui conseguenze per la nostra soggettività sono cominciando a malapena a rendersene conto.
Non è sempre stato così… Come attesta il blogger e attivista iraniano Hossein Derakhshan (2015), oggi stiamo vivendo la morte del collegamento ipertestuale. la parola inglese link dà l'idea di un percorso, di una scorciatoia, di una connessione. il tempo di collegamento ipertestuale era un tempo in cui world wide web ha apprezzato il decentramento, abbattendo le gerarchie, realizzando un grande sistema navigabile di nodi e reti. Era l'epoca d'oro dei blog personali, “finestre su vite di cui sapevamo poco, ponti che collegavano tra loro esistenze diverse e quindi le trasformavano” (Derakhshan, 2015). Non è più così.
Nel mondo della crisi post-2008, l'infrastruttura dell'ecosistema digitale occidentale è gestita e dominata da cinque grandi aziende situate sulla costa occidentale degli Stati Uniti: Alphabet/Google, Facebook, Amazon, Apple e, in misura minore, Microsoft . Il nucleo di questo sistema è aziendale (Dijck, Poell e Waal, 2018). I decantati ideali dell'"ideologia californiana" della Silicon Valley che, in un curioso miscuglio di ribellione e trasgressione alla Nuova sinistra con l'imprenditorialità high tech, proclamati i valori dell'apertura e della condivisione (Barbrook e Cameron, 2015), non sono altro che un canto di fronte all'aggressività con cui questi grandi tecnici espandere il proprio business in rete, acquistando startup e stringendo partnership, bloccando il percorso di altre piattaforme e costringendole, a prezzo della loro sopravvivenza, a connettersi, in un modo o nell'altro, ad esse. È noto che il suo asset principale – soprattutto nel caso di Alphabet/Google, Facebook e Amazon – sono i dati forniti dagli utenti. Con loro, queste aziende possono estrarre le conoscenze necessarie per vendere a terzi pubblicità personalizzate che raggiungono con precisione millimetrica i target prefissati.
Per questo si sforzano soprattutto di attirare la nostra attenzione, risorsa sempre più scarsa nell'odierna società concitata e piena di schermi (Türcke, 2010) e che, essendo intrasferibile, diventa sempre più preziosa. Generare valore, produrre le informazioni essenziali per l'espansione del proprio business, per questi è di vitale importanza grandi tecnici che rimaniamo il più a lungo possibile attaccati alle loro piattaforme – da qui la lamentela di Derakhshan (2015) secondo cui i social network, a differenza dei blog di una volta, hanno un carattere chiuso, autoreferenziale, poiché tendono a trattare testi e immagini nativi, pubblicati direttamente sui loro domini, con molto più rispetto di quelli ospitati al di fuori di essi. E le tecniche di persuasione che utilizzano costituiscono un “punto di svolta” nelle strategie di marketing, facendo sembrare un gioco da ragazzi i dispositivi ideologici della “industria culturale classica”, che Adorno e Horkheimer (1985) sottolineano.
Per tutto il Novecento le strategie di marketing hanno cercato soprattutto di creare l'identificazione del consumatore con i prodotti: le sigarette Marlboro si adattano molto bene a una personalità altezzosa e indipendente; la margarina era l'alimento ideale per un ambiente familiare prospero e armonioso. Attualmente, combinando calcolo avanzato e Big Data con la conoscenza di economie comportamentali e scienze cognitivo-comportamentali, queste grandi aziende non solo cercano di generare intuizioni cose preziose su di noi, ma, in modo molto più decisivo, per trasformare ciò che siamo, per influenzare la nostra personalità, in modo da diventare persone molto più prevedibili, facile preda degli intricati meccanismi della sua gestione algoritmica (Bentes, 2019).
Confinati nelle bolle digitali, diventiamo molto più politicamente radicali, incapaci di cogliere molteplici visioni e diversi punti di vista su un dato argomento. Agganciato da questa superindustria dell'immaginario, nei termini di Eugênio Bucci (2021), nelle cui tecniche di dominio risiede l'intero lessico della psicologia comportamentista - condizionamenti, fattori scatenanti, ricompense variabili, architettura delle decisioni, ecc. risucchiati in questi ingranaggi della dipendenza , così che spesso ci troviamo in infiniti movimenti di maschiatura e scrolling su YouTube, Facebook o Instagram, che ci seducono con una forza travolgente.
Qui, ciò che è decisivo è meno il contenuto che la forma; o come ci ricorda lo studioso di media McLuhan (1967), Il mezzo è il messaggio. Il modello di comunicazione introdotto dalle reti, che fa appello all'inconscio e alle emozioni, è un fattore rivoluzionario nel panorama culturale contemporaneo. Secondo gli studi delle neuroscienze, il nostro cervello è plastico e malleabile, la sua rete di sinapsi è modellata dalle nostre abitudini. Pertanto, dal punto di vista della storia intellettuale, Internet è una forza che ha cambiato le nostre menti (Carr, 2010). Nella molteplicità dei suoi stimoli, promuove il pensiero distratto e superficiale, che, legato alle pressioni prestazionali del capitalismo neoliberista, dà origine a diverse patologie psichiche legate alla multitasking, affaticamento e deficit di attenzione (Han, 2017). In questo sistema di consegna e ricompensa ultraveloce, che incoraggia la ripetizione di azioni fisiche e mentali, le nostre menti si consumano nel mezzo. Quindi, non solo le tecnologie sono nostre estensioni, ma noi diventiamo anche estensioni delle tecnologie.
Da questo intreccio di cultura, economia e tecnica, si deve mettere in discussione la validità di quell'individuo razionale e ben informato con cui la teoria liberale ha sempre pensato alla società e alla politica. Qual è il posto delle scelte ponderate e riflesse, quando siamo immersi in un ambiente favorevole alla propagazione di notizie false e teorie del complotto, senza sapere con certezza, in mezzo a una profusione di informazioni che circolano velocemente, dove cercare la “verità” dei fatti? Come possiamo parlare di “soggetto autonomo” quando ci trasformiamo in particelle collocate in una rete algoritmica che ha la capacità di condizionare i nostri gusti e desideri e dirigere le nostre azioni?
Con la centralizzazione delle informazioni nelle mani di un gruppo ristretto di grandi tecnici, di conseguenza, i governi e le società stanno diventando molto più potenti di noi. E in relazione a ciò, appaiono fondamentali due caratteristiche della gestione algoritmica nell'era dei Big Data e dell'intelligenza artificiale. Innanzitutto, va notato che gli algoritmi non sono altro che insiemi di istruzioni, una serie di passaggi che trasformano determinati dati di input (Ingressi) in qualche risultato voluto (uscite). Qualcosa di banale, come la ricetta di una torta al cioccolato, per esempio, può essere pensato come un algoritmo. La ricetta consiste in un insieme di istruzioni che mirano a trasformare alcuni dati in ingresso, gli ingredienti (uova, farina, lievito, ecc.), in un prodotto finito, la torta calda pronta per essere divorata. In parole povere, la particolarità dei sistemi di intelligenza artificiale è che sono dotati di input e output di dati e gli algoritmi cercano i mezzi migliori - la migliore serie di passaggi - per raggiungere l'obiettivo proposto. (Nel caso banale della torta, è come se, di fronte agli ingredienti e alla torta già pronta, l'algoritmo cercasse le modalità migliori per portare a termine il compito, in termini di utilizzo degli ingredienti, ottimizzazione dei costi, risparmio di tempo, ecc.)
Pertanto, alimentati con grandi banche dati e potenziati dalla potenza di elaborazione computazionale odierna, questi sistemi hanno un'enorme capacità di efficienza, cioè di trovare i percorsi ottimali e appropriati tra mezzi e fini, qualunque essi siano, a tal punto che in essi risiede una possibilità alquanto irrazionale e distopica – ampiamente utilizzata da serie e romanzi di fantascienza – di superare o superare gli “scopi” per i quali erano, in linea di principio, programmati.
AlphaGo, software di intelligenza artificiale sviluppato da Alphabet/Google per sconfiggere il campione del mondo di Go (un gioco da tavolo molto più complesso degli scacchi), Lee Sedol, non solo ha battuto il maestro sudcoreano, compiendo mosse apparentemente assurde, ma anche, poco dopo, è stato sconfitto dalla sua nuova versione, AlphaGoZero. La novità di AlphaGoZero rispetto al suo predecessore è che ha imparato molti trucchi e tecniche dai grandi giocatori di Go giocando milioni di partite contro se stesso, ricevendo solo il tabellone bianco e le regole del gioco. Questa tecnica di apprendimento in cui la macchina fa a meno degli esempi del mondo reale, imparando a risolvere autonomamente problemi complessi, rappresenta senza dubbio un grande passo verso l'ignoto delle sue facoltà cognitive (Knight, 2017). E risorse come questa possono essere utilizzate in diversi settori della società, il che ci porta alla seconda caratteristica qui elencata: la facilità con cui certe applicazioni di intelligenza artificiale possono essere trasposte da un contesto all'altro, svincolandosi dal loro uso originario.
L'applicazione FindFace, sviluppato da Alexander Kabakov, ha permesso agli utenti di eseguire il caricare di foto di persone sconosciute e confrontarle con tutte le immagini condivise sul social network russo Vkontakte, setacciandone miliardi in meno di un secondo. Una volta confezionato e messo a disposizione del pubblico, il App era già utilizzato da un fotografo per identificare estranei nella metropolitana di Mosca e anche da un gruppo di sessisti misogini per molestare e molestare le prostitute. Kabakov finì per firmare un contratto con il comune di Mosca per il suo algoritmo di riconoscimento facciale da utilizzare in 150.000 telecamere di sorveglianza in tutta la città (Greenfield, 2017).
In effetti, applicazioni di intelligenza artificiale come FindFace di Kabakov si sono dimostrati molto efficaci nel servire l'autoritarismo in tutto il mondo. Il loro grande vantaggio rispetto ai mezzi tradizionali di coercizione e intimidazione è che sono silenziosi e quindi consentono un tipo di dominio molto più ampio e sistematico. Se un governo autoritario vuole reprimere l'opposizione, non è più necessario mobilitare un grosso contingente di forze di polizia armate fino ai denti. Oltre ai costi e ai rischi connessi, l'efficacia di questi mezzi si scontra con i limiti biologici del corpo umano – anche se, come ricorda Crary (2014), superarli è uno degli obiettivi del capitalismo neoliberista 24/7.
Gli esseri umani hanno fame e sete: le loro riserve di energia sono finite. I sistemi automatizzati di intelligenza artificiale sono implacabili e onnipresenti, producono un cambiamento nel comportamento e creano un importante effetto inibitorio anche in assenza di violenza fisica. Applicato alle grandi città, il linguaggio degli algoritmi è quello della sorveglianza, del controllo preventivo e del rilevamento scalabile delle anomalie. Sapendo di essere osservati, sapendo che gli algoritmi di rilevamento dei cluster in tempo reale, che determinano quando si è formato un gruppo più ampio di persone, vengono utilizzati dai governi o anche da quello bots l'intelligenza artificiale setaccia le loro informazioni alla ricerca di messaggi critici nei confronti del regime, le persone si sentiranno fortemente obbligate a conformarsi (Feldstein, 2019).
Il ruolo delle nuove tecnologie nella sorveglianza statale è oggetto di dibattito ormai da tempo, almeno da quando Edward Snowden ha rivelato, nel 2013, i meccanismi di sorveglianza globale impiegati dalla NSA (National Security Agency) Nordamericano. È anche noto come i social network come Facebook e Twitter abbiano contribuito all'ascesa dell'autoritarismo e all'emergere di nuovi populismi di destra in tutto il mondo, come testimoniato dalla performance di Cambridge Analytica in Brexit e nell'elezione di Donald Trump in 2016. Sebbene esistano meccanismi legali con cui le democrazie liberali occidentali possono affrontare tali abusi, imponendo regolamenti e multe alle grandi piattaforme o approvando leggi per proteggere i dati personali, non è difficile immaginare, nonostante i discorsi contrari, che i governi democratici cedano a la tentazione di utilizzare le tecnologie dell'intelligenza artificiale per violare i diritti dei cittadini. E, sebbene abbiano implementato "meccanismi di trasparenza", come il controllo delle notizie, è difficile credere che le piattaforme digitali e i social network stiano prendendo una svolta radicale verso la democrazia, dal momento che il modello di sorveglianza ed estrazione dei dati è il nucleo e la ragion d'essere être dei suoi affari.
Inoltre, c'è qui una componente geopolitica rilevante, che sarà fondamentale per dettare la direzione della tecnologia negli anni a venire. In Cina – la seconda potenza economica mondiale e leader mondiale nella rivoluzione del 5G – l'uso dell'intelligenza artificiale fa parte di un più ampio sistema di controllo che è alla base del Partito Comunista Cinese. Lì, l'unione delle grandi società tecnologiche – Alibaba, Tencent e Baidu, il grandi tecnici dominante nel gigante asiatico, unica a rivaleggiare con le società della Silicon Valley – con lo Stato è di una portata tale da non avere paralleli nel mondo occidentale. Oltre ai metodi “più tradizionali” di coercizione e sorveglianza digitale, utilizzati ad esempio per reprimere la minoranza musulmana Uigur nella provincia dello Xinjiang – tv a circuito chiuso con telecamere dotate di riconoscimento facciale collegate a sniffer Wi-Fi, che setacciano contatti, email e foto e video sui social network – la Cina sta istituendo un vero e proprio sistema di credito sociale nazionale orwelliano, dove le persone la reputazione è segnata e coloro che non “camminano sulla linea” (spettegolando, attraversando la strada sbagliata o persino avendo un giardino disordinato) possono vedere compromesse le loro possibilità di trovare un lavoro o persino di andare a una buona scuola. Tenendo presente il grandioso progetto della Nuova Via della Seta, simbolo della sua ambizione di sfidare l'ordine liberale occidentale, la Cina dovrebbe allargare il proprio raggio di influenza, esportando i propri modelli di governance in altri Paesi; e, infatti, questi sono già utilizzati in luoghi diversi come lo Zimbabwe, la Malesia o Singapore (Feldstein, 2019).
* Andrè Campos Rocha è un dottorando in scienze sociali presso PUC-MG.
Riferimenti
ADORNO, Teodoro; HORKHEIMER, Max. Dialettica dell'Illuminismo: frammenti filosofici. Rio de Janeiro: Jorge Zahar, 1985.
BARBROOK, Riccardo; CAMERON, Andy. L'ideologia californiana. 1995. Disponibile a: http://www.comune.torino.it/gioart/big/bigguest/riflessioni/californian_engl.pdf.
BENTI, Anna. La gestione algoritmica dell'attenzione: agganciare, conoscere e persuadere. In: POLIDO, Fabricio; ANJOS, Lucas; BRANDÃO, Luiza (org.). Politica, Internet e società. Belo Horizonte: Istituto di riferimento in Internet e società, 2019.
BUCCI, Eugenio. La Superindustria dell'Immaginario: come il capitale ha trasformato lo sguardo in lavoro e si è appropriato di tutto ciò che è visibile. Belo Horizonte: autentico, 2021
CARRR, Nicola. Le secche: cosa sta facendo Internet al nostro cervello. New York: WW Norton & Company, 2010.
PAVIMENTO, Jonathan. Il tardo capitalismo e la fine del sonno. San Paolo: Cosac Naify, 2014.
DERAKHSHAN, Hossein. Salviamo Internet. PISEAGRAM, Belo Horizonte, numero 08, pagina 52 – 55, 2015.
DIJCK, José van; POELL, Tommaso; WAAL, Martijn de. La società della piattaforma. New York: Pressa dell'Università di Oxford, 2018.
HAN, Byung Chul. società della stanchezza. Petrópolis, RJ: Voci, 2017.
GREENFIELD, Adamo. Tecnologie radicali: il design della vita quotidiana. Londra: Verse Books, 2017.
FELDSTEIN, Steven. Come l'intelligenza artificiale sta trasformando la repressione. 2019. Disponibile presso: https://medium.com/funda%C3%A7%C3%A3o-fhc/como-a-intelig%C3%AAncia-artificial-est%C3%A1-transformando-a-repress%C3%A3o-c1bdba0bbacf.
CAVALIERE, Will. AlphaGo Zero mostra che le macchine possono diventare sovrumane senza alcun aiuto. 2017. Disponibile a: https://www.technologyreview.com/2017/10/18/148511/alphago-zero-shows-machines-can-become-superhuman-without-any-help/.
MLUHAN, Maresciallo. Il mezzo è il messaggio. Un inventario degli effetti. New York: Bantam Books, 1967.
TURCKE, Christoph. Società eccitata: filosofia della sensazione. Campinas, SP: Editora da Unicamp, 2010.
