da EUGENIO BUCCI*
Se i processi decisionali delle società democratiche venissero dirottati dall’ignoranza prodotta dall’Intelligenza Artificiale, l’umanità sarebbe seriamente minacciata.
Alla fine della scorsa settimana, abbiamo avuto ancora un’altra notizia sull’uso oscuro delle tecnologie della luce. Questa volta, una banda ha utilizzato strumenti di profondo falso per effettuare un colpo di stato da un milione di dollari, che ebbe molto successo. Profondo falso, come ben sapete, è il nome dato a questi video manipolati che sembrano genuini come il discorso metallico dei conduttori di notizie. Giornale Nazionale. Sono video fraudolenti, ma così squisitamente fraudolenti, così cristallini, da rendere immagini credibili, affidabili, perfette e inconfutabili di eventi mai accaduti.
Loro sono ovunque. Sullo schermo del cellulare, le celebrità dicono frasi che non hanno detto nel mondo reale, per non parlare di personaggi pubblici protagonisti di gesti orgiastici che – per fortuna o sfortuna – non sono mai realmente esistiti. Quello che è successo ora è che le stesse risorse illusionistiche hanno convinto un impiegato del settore finanziario di una multinazionale di Hong Kong che il suo capo, in teleconferenza, ha ordinato il trasferimento immediato di 25,6 milioni di dollari su un conto sconosciuto. Il ragazzo ha obbedito, la fortuna è scivolata via e la polizia locale è alla ricerca dei danni e dei ladri. Sembra che siano già stati effettuati alcuni arresti.
Potresti pensare che questo non sia sufficiente. Forse dirai che non c'è nulla di sorprendente in un crimine high tech e che, poiché il mondo è sporco, le azioni malvagie richiedono i servizi delle innovazioni, che si tratti di un pezzo di pietra scheggiata, di un curaro, di una macchina da scrivere o, più attualmente, del smartphone. Sarebbe comunque prudente esaminare un altro episodio, questo un po’ più intrigante.
A dicembre, un robot ha attaccato un ingegnere sulla catena di montaggio di uno degli stabilimenti Tesla negli Stati Uniti. La macchina affondò addirittura i suoi artigli d'acciaio nel braccio dell'ignaro essere umano. Le spiegazioni sono arrivate parziali, controvoglia e, fino ad ora, ci sono dubbi su cosa sia successo e come. Cosa è successo la? È stato un errore di programmazione? Se l'ipotesi fosse vera, il mostro lubrificato non era al servizio di un criminale senza scrupoli, ma avrebbe agito di propria iniziativa, come se fosse dotato di libero arbitrio, o quantomeno di folle arbitrio. Questo, in effetti, è più intrigante.
Immaginiamo ora un accostamento, o una sovrapposizione, tra la prima e la seconda notizia. Immagina un robot virtuale (a museruola, come si suol dire) che comanda la creazione di immagini artificiali che soddisfano le curiosità assetate del pubblico. A volte, questo essere immateriale lavora sotto il comando di presunti esseri umani.
Altre volte, invece, grazie alle mirabili prodezze dell'automazione, il nostro essere cibernetico sarebbe capace, in autonomia, di escogitare prodezze mozzafiato, proprio come l'algoritmo di Spotify, con i suoi automatismi ben addestrati, è in grado di scegliere la musica che ascolterete. .successivo e farlo bene. Immaginate, quindi, a museruola che manipola il profondo falso per compiacere le retine perverse delle folle più inferocite, che si compiacciono della sofferenza di coloro a cui dedicano il loro odio più velenoso e che, in nome del loro odio incondizionato, prendono come verità definitiva ogni oltraggio che confermi i loro pregiudizi e i loro difetti.
Hai immaginato? Ora vai oltre. È necessario. Il World Economic Forum (WEF) è andato oltre. A gennaio, il World Economic Forum ha definito la disinformazione e gli strumenti per diffonderla il rischio più grande che l’umanità dovrà affrontare nei prossimi due anni. Questo rischio è reale, insidioso e incombe proprio dietro l’angolo di casa tua. Nel 2024, più di due miliardi di elettori saranno chiamati a decidere il destino di 58 paesi, tra cui Russia, Messico, India e Stati Uniti. Metà del pianeta andrà alle urne solo nel 2024, l’anno elettorale più grande di sempre, secondo le statistiche. Se la menzogna industrializzata continua a causare i danni che già sta causando, si verificheranno disastri cumulativi.
Non esiste più alcun modo per non vederlo. Se i processi decisionali delle società democratiche venissero rapiti dall’ignoranza prodotta dall’Intelligenza Artificiale, l’umanità sarebbe infatti seriamente minacciata. Il Forum Mondiale ha ragione, non si può negarlo. Per ora è vero, parliamo solo di rischio, ma questo rischio non assomiglia ad una “piccola influenza”. È vero. Se la disinformazione trionferà, la democrazia genererà il suo opposto e ne verrà fagocitata. E non mancano le prove pratiche che dimostrano l’imminenza dello scenario peggiore. Ai nostri giorni, ho insistito su questo, la disinformazione è potere.
I circuiti elettronici e i media digitali possono servire al bene? Sì, ovviamente possono. Ci sono i resoconti delle Campagne di Fraternità, i consulti di telemedicina virtuale, i modelli ultracomplessi di previsioni meteo. Ogni tecnica può servire a buone cause. Ma, senza governo o arrendendosi ai capricci del capitale, la tecnica senza legge ci condurrà al peggiore dei precipizi. Pensatori come Günther Anders, che compresero le inversioni dell’Illuminismo, intuirono l’apparenza dell’apocalisse prodotta dalla tecnica. Ma ciò che accadrà, se non facciamo nulla, è ancora più sorprendente.
* Eugenio Bucci È professore ordinario presso la School of Communications and Arts dell'USP. Autore, tra gli altri libri, di L'incertezza, un saggio: come pensiamo all'idea che ci disorienta (e orienta il mondo digitale) (autentico). [https://amzn.to/3SytDKl]
Originariamente pubblicato sul giornale Lo Stato di San Paolo.
la terra è rotonda esiste grazie ai nostri lettori e sostenitori.
Aiutaci a portare avanti questa idea.
CONTRIBUIRE
