da SERGIO AMADEU DA SILVEIRA*

La catastrofe algoritmica e la nuvola di “blackout”.

1.

La sociologia della modernità ha prodotto una serie di riflessioni che necessitano di essere approfondite, soprattutto in questi tempi in cui si diffondono ondate reazionarie che coesistono e si alimentano con l’ascesa delle tecnologie che si propongono di mediare tutte le attività umane. Il sociologo Ulrich Beck Società del rischio, pubblicato in Germania nel 1986, avvertiva che i rischi e le incertezze erano diventati centrali nelle società moderne guidate dal progresso tecnologico e industriale.

Ulrich Beck ha già sottolineato che tali rischi diventeranno sempre più invisibili e la loro percezione sarà influenzata dalle istituzioni scientifiche e dai media. La dinamica del rischio verrebbe incorporata e la ricerca costante dei responsabili e dei colpevoli dei disastri ci porterebbe a una certa politica sostenuta dalla gestione del rischio.

La percezione di Ulrich Beck non potrebbe essere più realistica, dal momento che le tecnologie digitali hanno dominato l'economia e le grandi aziende che le controllano e ne comandano lo sviluppo hanno imposto uno stile di gestione del rischio. Il filosofo Yuk Hui ha aperto il suo testo Catastrofe algoritmica: la vendetta della contingenzaNel 2020, le catastrofi tecnologiche non sono semplicemente fallimenti materiali, ma fallimenti della ragione. Ispirandosi a Paul Virilio, Yuk Hui pensa ai sistemi tecnologici contemporanei come portatori di catastrofi e tecniche per mitigare le stesse tragedie che le loro dinamiche e i loro scopi generano.

Le catastrofi sono inevitabili a causa della natura stessa dell’automazione e delle tecnologie di automazione. I nostri sistemi si stanno muovendo verso un utilizzo crescente di soluzioni di intelligenza artificiale basate su statistiche e probabilità convertite in sistemi algoritmici che operano con una gigantesca potenza di calcolo, generando modelli che vengono utilizzati per automatizzare le attività e il loro rischio.

Norbert Wiener, nel testo Alcune conseguenze morali e tecniche dell’automazione, pubblicato nel maggio 1960 sulla rivista Scienze, dichiararono che le macchine potevano sviluppare strategie impreviste, poiché portavano con sé algoritmi di apprendimento, che non sempre potevano essere compresi e seguiti dai loro programmatori.

2.

Ciò che è accaduto il 18 e 19 luglio 2024 è un esempio di catastrofe algoritmica. Il sistema di gestione del rischio, più precisamente di mitigazione degli attacchi informatici, ha fallito. Un errore nell'aggiornamento software della società di sicurezza informatica CrowdStrike applicato al sistema operativo di Microsoft ha generato quello che la stampa mondiale ha definito un blackout informatico o digitale. Un messaggio di Microsoft sull'ex Twitter, ora X, diceva: "Siamo a conoscenza di un problema con i PC Windows 365 Cloud causato da un recente aggiornamento del software CrowdStrike Falcon Sensor".

Ogni sistema digitale incorpora in qualche modo il tentativo di individuare e contenere errori, guasti, attacchi, in altre parole rischi e incidenti. Pertanto, esistono altri sistemi algoritmici che funzionano continuamente per analizzare guasti, errori e attacchi. Gli antivirus sono un esempio di azione preventiva per proteggere un sistema dall'invio di file dannosi che possono distruggere informazioni e persino crittografare un database per ottenere un riscatto dai criminali che detengono la chiave per decrittografare le informazioni. È interessante notare che il problema che si è verificato e chiamato “blackout” si è verificato quando il sistema di protezione o prevenzione degli attacchi ha finito per promuovere un attacco al sistema che avrebbe dovuto difendersi.

Anthony Giddens e Ulrich Beck hanno scritto che nella tarda modernità i rischi sono in gran parte prodotti dalla società stessa, principalmente dalla tecnologia, dall’industrializzazione e dalla globalizzazione. Tuttavia, ci troviamo già da molto tempo nella tarda modernità, in un sistema capitalista in decomposizione. Il sogno del capitalista è distopico e cerca di sostituire all'estremo il lavoro umano con sistemi automatizzati con l'obiettivo di ridurre i costi e aumentare la qualità e la precisione dei servizi e dei prodotti aumentando la produttività.

Pertanto, nel capitalismo contemporaneo, le grandi aziende tecnologiche avanzano nella raccolta incessante di dati per migliorare l’estrazione di modelli dai processi umani, sociali e meccanici. Tuttavia, questo sogno ha conseguenze socio-tecniche che non sono prevedibili e non possono essere controllate.

È importante sottolineare qui che i rischi si combinano con obiettivi che li aumentano, tra cui la ricerca del dominio del mercato promossa dagli oligopoli digitali, le cosiddette Big Tech. Nel primo decennio del 21° secolo, si è diffuso il modello di business basato sul cosiddetto cloud computing, accelerando la concentrazione della potenza di calcolo e di archiviazione dei dati e, di conseguenza, espandendo la concentrazione economica.

Com'è il business del cloud? Cosa significa la frase “i miei dati sono nel cloud”? Il cloud è una metafora dell'attività di archiviazione ed elaborazione dei dati e dei sistemi che si trovano al suo interno data center a cui si accede da remoto via internet. Come dice la battuta “il cloud sono i computer degli altri”.

Alcune aziende si sono specializzate e hanno finito per dominare il business del cloud provisioning. Amazon Web Server e Microsoft Azure, nel 2021, detenevano il 60% del mercato globale del cloud offrendo infrastruttura come servizio. Che cosa significa. Diverse aziende, istituzioni e governi hanno sostituito le proprie infrastrutture locali di elaborazione e archiviazione dei dati con contratti per Amazon e Microsoft per “prendersi cura” e “affittare” spazio di archiviazione dati e servizi informatici.

I costi contrattuali del cloud per aziende e governi erano interessanti. Ciò ha portato ad una crescita gigantesca in questo mercato. La conseguenza fu una maggiore concentrazione economica.

Secondo Gartner Group, nel 2023 la concentrazione nel mercato Cloud Infrastructure as a Service (IaaS) era la seguente: Amazon deteneva il 39%, Microsoft il 23%, Google l’8,2%, Alibaba il 7,9%, Huawei il 4,3%. Queste cinque società dominavano l’82,4% del mercato globale del cloud. Inoltre, questo scenario sta peggiorando a causa della formazione di grandi modelli linguistici, LLM, che richiedono molti computer disponibili con capacità di elaborazione o potenza di calcolo molto elevate. Pertanto, l’intelligenza artificiale generativa basata sull’estrazione di modelli da grandi quantità di dati sta contribuendo alla concentrazione del potere computazionale che implica potere economico.

3.

Il giorno del blackout molte aziende sono andate ad accedere alle proprie applicazioni e sistemi nel cloud di Microsoft e si sono trovate di fronte alla famosa schermata blu, che indicava che il sistema operativo non poteva funzionare. Molte persone che avevano Microsoft 365 avevano anche l'accesso ai propri file bloccato. Microsoft 365 è come un servizio in abbonamento che offre agli utenti l'accesso alla suite Office e ad altri servizi su Internet, invece di installarli localmente sui propri computer.

Ciò significa che i dati e i file degli utenti vengono archiviati nel cloud Microsoft, consentendo loro di accedere ai propri documenti e informazioni da qualsiasi luogo tramite una connessione Internet. Tranne quando l'azienda che offre il servizio subisce un guasto, un attacco o si blocca, intenzionalmente o meno.

Il blackout ha dimostrato il gigantesco potere di cui dispone un mediatore di relazioni digitali e un operatore informatico come Microsoft. Senza dubbio, il guasto involontario ha causato il blackout. Ma è chiaro che Microsoft ha il potere di impedire ad aziende e istituzioni di accedere ai propri dati archiviati sui propri dispositivi data center, lontano dalla nostra giurisdizione e dalla nostra capacità di accedervi fisicamente.

Lì abbiamo un problema di sovranità digitale. I leader dello Stato brasiliano devono valutare i rischi derivanti dal continuare a ospitare i propri dati strategici e a utilizzare software quotidiano in infrastrutture al di fuori del nostro Paese. Le nostre università devono dibattersi se non sarebbe essenziale conservare i propri dati di comunicazione e di ricerca nelle infrastrutture installate nel nostro Paese, nella nostra giurisdizione e sottoposte ai nostri comitati etici. L’autonomia necessaria allo sviluppo passa sempre più attraverso la sovranità digitale.

*Sergio Amedeo da Silveira è professore presso l'Università Federale di ABC. Autore, tra gli altri libri, di Colonialismo dei dati: come opera la trincea algoritmica nella guerra neoliberista (Autonomia letteraria). [https://amzn.to/3ZZjDfb]

Riferimenti

BECK, Ulrico; GIDDENS, Antonio; LASH, Scott. La reinvenzione della politica: verso una teoria della modernizzazione riflessiva. Stampa dell'Università di Stanford, 1994.

BECK, Ulrich. società del rischio. San Paolo: Editora 34, 2010.

GARTNER afferma che i ricavi mondiali dei servizi cloud pubblici IaaS sono cresciuti del 16.2% nel 2023

STAMFORD, Connecticut, 22 luglio 2024. Link: https://www.gartner.com/en/newsroom/press-releases/2024-07-22-gartner-says-worldwide-iaas-public-cloud-services-revenue-grew-16-point-2-percent-in-2023

HUI, che schifo. Catastrofe algoritmica. La vendetta della contingenza. Parresia: un giornale di filosofia critica, N. 34, 2020.

WIENER, Norbert. Alcune conseguenze morali e tecniche dell'automazione: man mano che le macchine apprendono, possono sviluppare strategie impreviste a ritmi tali da confondere i loro programmatori. Scienze, v. 131, n. 3410, pag. 1355-1358, 1960.

la terra è rotonda c'è grazie ai nostri lettori e sostenitori.
Aiutaci a portare avanti questa idea.
CONTRIBUIRE