da EUGENIO BUCCI*
Una tregua di sei mesi nella ricerca sull'IA non risolverà nulla. Guarda con tenerezza e compassione il mondo intorno a te, perché scomparirà in un sospiro.
Nelle ultime settimane, lo storico israeliano Yuval Noah Harari ha scritto un paio di articoli sostenendo che l'intelligenza artificiale (AI) ha "hackerato" il "sistema operativo" della specie umana. È una metafora: “sistema operativo” qui significa linguaggio. La macchina ha finalmente preso il sopravvento sulle nostre forme di espressione e comunicazione - e il pericolo che rappresenta è senza precedenti, colossale, più grande di qualsiasi altro che abbiamo conosciuto prima.
Yuval Noah Harari intreccia argomenti con irresistibile chiarezza. Autore di bestseller mondiali come Homo Sapiens (pubblicato in Brasile da Companhia das Letras), ha il dono di rendere appetibili, accessibili e persino coinvolgenti alcuni dei dilemmi più atroci del nostro tempo. Il primo degli articoli, originariamente pubblicato in Il New York Times, è stato tradotto in giornali e siti brasiliani.
Poco dopo, lo scrittore ha condotto una petizione transnazionale chiedendo una tregua di sei mesi nella ricerca sull'intelligenza artificiale. Poi, è tornato alla carica con un nuovo testo, questa volta sul settimanale inglese The Economist (28 aprile), pubblicato in portoghese sul sito web la terra è rotonda, con lo stesso messaggio: una tecnologia in grado di impadronirsi del linguaggio umano ha tutto per ingombrare tutta l'umanità.
L'argomentazione procede. Tutti i miti, tutte le religioni e tutte le culture che esistono o sono esistite sulla faccia della Terra non sono fatte di amminoacidi o cromosomi, ma di segni linguistici. Questi segni sono alla base del "sistema operativo" dei nostri sistemi di fede, della nostra espressione artistica e della nostra identità: sono il tessuto della nostra coscienza. Presto, software e hardware chi si appropria di questo “sistema” potrà governarci. Ecco perché, secondo molti ben informati, l'intelligenza artificiale è alla pari delle armi nucleari in termini di potenziale distruttivo.
Ma non è nemmeno la metà della messa da requiem appena iniziata. Se guardiamo alla questione di petto, noteremo che Yuval Harari avrebbe potuto dire più di quanto ha fatto. Lo sviluppo della chiamata machine learningDi Big Data e le apparecchiature autoprogrammabili seguono un corso inarrestabile. Nessun sottoscritto può impedirlo. Il punto di non ritorno potrebbe essere già alle nostre spalle.
Per comprendere l'irreversibilità del processo tecnologico è bene ricordare quell'altro processo, quello giuridico, così come descritto da Franz Kafka. Indipendentemente dall'esistenza o meno delle prove, il complotto giudiziario andava avanti, senza che nessuno potesse fermarlo. La tecnologia, come la legge, è una creazione umana. A differenza della legge, tuttavia, diventa più forte man mano che si disumanizza e si libera dalle persone.
Martin Heidegger ha intuito qualcosa di simile quando ha parlato del potere della tecnologia nella prima metà del XX secolo. Trecento anni prima, Thomas Hobbes notava che lo Stato, posseduto dal mostro Leviatano, avrebbe fatto ciò che voleva, contro chiunque. La sensazione che l'ingegno umano produca "mostri" che assumono una vita propria non è nuova. Adam Smith immaginava una tale "mano invisibile" che tirasse i fili del mercato. Karl Marx scoprì un "soggetto automatico" nascosto in qualche recesso tra merce e capitale.
La realtà gli ha dato ragione. La burocrazia che Max Weber vedeva con una punta di ottimismo presto degenerò in stalinismo e divorò i suoi genitori, come a confermare la maledizione del romanzo. Frankenstein, del 1818, in cui Mary Shelley ritrae la creatura che soggioga il creatore. Nelle tragedie dell'Antica Grecia, la fatalità che non aveva governo si chiamava destino. Nei tempi moderni, puoi chiamarlo inconscio. Il pensiero comprende anche ciò che contempla, ma non ha modo di impedirlo.
Ed eccoci qui, faccia a faccia con l'intelligenza artificiale. La possibilità di addomesticarla è scarsa. Ha compiuto l'impresa di rimuovere il linguaggio umano dal dominio dei parlanti in carne e ossa. Lei, il linguaggio, che poteva esistere solo attraverso di noi, ora potrà vivere al di là di noi. Non sottovalutiamo le dimensioni di questo piccolo passo che sarà un grande balzo per la tecnologia. Il linguista Ferdinand de Saussure insegnava che chi inventa una lingua e la mette in circolazione perde il controllo su di essa. Presto potremmo perdere il controllo sulle macchine che hanno imparato a parlare la lingua che era solo nostra.
L'intelligenza artificiale automatizza i protocolli che erano di origine umana e ne estrae previsioni efficaci, su scale progressivamente più veloci e gigantesche. Cresce e diventa più complesso all'interno del bunker privato e opaco grandi tecnici – o dentro i segreti meglio custoditi dello Stato, anch'essi opachi. Attualmente non esiste una forza politica in grado di rompere contemporaneamente queste due opacità. No, una tregua di sei mesi non risolverà nulla. Le nostre possibilità sono scarse.
Guarda con tenerezza e compassione il mondo intorno a te, perché scomparirà in un sospiro.
* Eugenio Bucci È professore presso la School of Communications and Arts dell'USP. Autore, tra gli altri libri, di L'incertezza, un saggio (autentico).
Originariamente pubblicato sul giornale Lo Stato di San Paolo.
la terra è rotonda esiste grazie ai nostri lettori e sostenitori.
Aiutaci a portare avanti questa idea.
CONTRIBUIRE
