da SLAVEJŽIŽEK*
Lo sviluppo dell'Intelligenza Artificiale porterà alla fine del capitalismo così come lo conosciamo
La lettera aperta dell'Istituto Il futuro della vita La richiesta di una pausa precauzionale di sei mesi nello sviluppo dell'intelligenza artificiale è già stata firmata da migliaia di personaggi di alto rango, tra cui Elon Musk. I firmatari temono che i laboratori di intelligenza artificiale siano "bloccati in una corsa precipitosa" per sviluppare e implementare sistemi sempre più potenti che nessuno, compresi i loro creatori, può comprendere, prevedere o controllare.
Cosa spiega l'esplosione del panico in un certo settore delle élite? Il controllo e la regolamentazione sono ovviamente al centro della storia. Ma da chi? Durante la pausa semestrale proposta, quando l'umanità potrà fare il punto sui rischi, chi la difenderà? Poiché i laboratori di Intelligenza Artificiale in Cina, India e Russia continueranno a funzionare (possibilmente in segreto), è inconcepibile un dibattito pubblico globale sul problema.
Nonostante ciò, dobbiamo considerare ciò che è in gioco qui. Nel suo libro del 2015, Homo Deus, lo storico Yuval Harari ha predetto che la conseguenza più probabile dell'Intelligenza Artificiale sarebbe stata una divisione radicale - molto più forte della divisione di classe - all'interno della società umana. Molto presto, la biotecnologia e gli algoritmi computazionali uniranno le forze nella produzione di "corpi, cervelli e menti", determinando un divario crescente "tra coloro che sanno come sviluppare corpi e cervelli e coloro che non lo fanno". In questo mondo, "coloro che hanno preso il treno del progresso acquisiranno capacità divine di creazione e distruzione, mentre quelli lasciati indietro saranno condannati all'estinzione".
Il panico che riflette la lettera sull'Intelligenza Artificiale fa parte del timore che anche chi è sul “treno del progresso” non riesca a cavalcarlo. I nostri padroni feudali digitali contemporanei sono spaventati. Ciò che vogliono, tuttavia, non è un dibattito pubblico, ma un accordo tra governi e aziende tecnologiche per mantenere il potere al suo posto.
La massiccia espansione delle capacità dell'Intelligenza Artificiale rappresenta una seria minaccia per chi detiene il potere, compresi coloro che sviluppano, possiedono e controllano l'Intelligenza Artificiale. Indica niente di meno che la fine del capitalismo così come lo conosciamo, che si manifesta nella prospettiva di un sistema di Intelligenza Artificiale che si autoriproduce e che richiederà sempre meno Ingressi degli agenti umani (il trading algoritmico nel mercato è solo il primo passo in questa direzione). La scelta che ci resta sarà tra una nuova forma di comunismo e il caos incontrollabile.
Il nuovo chatbots offrirà a molte persone sole (o meno sole) interminabili serate di conversazioni amichevoli su film, libri, cucina o politica. Riproponendo una mia vecchia metafora, ciò che le persone avranno è la versione Intelligenza Artificiale del caffè decaffeinato, della soda senza zucchero: un vicino amichevole senza oscuri segreti, un Altro che semplicemente soddisferà le tue esigenze. C'è una struttura di negazione feticistica qui: "So benissimo che non sto parlando con una persona reale, ma mi sento come se lo fossi - e senza nessuno dei rischi che ciò comporta!"
In ogni caso, un attento esame della lettera sull'Intelligenza Artificiale mostra che siamo di fronte all'ennesimo tentativo di proibire l'impossibile. È un vecchio paradosso: è impossibile per noi umani partecipare a un futuro postumano, quindi dobbiamo vietarne lo sviluppo. Per orientarci di fronte a queste tecnologie, dobbiamo porci la vecchia domanda di Lenin: libertà per chi di fare cosa? In che senso eravamo liberi prima? Non eravamo già molto più controllati di quanto pensassimo? Piuttosto che lamentarci della minaccia alla nostra libertà e dignità in futuro, forse dovremmo invece considerare cosa significa libertà ora. Fino a quando non lo faremo, ci comporteremo come isterici che, secondo lo psicoanalista francese Jacques Lacan, cercano disperatamente un maestro, ma che possiamo dominare.
Il futurista Ray Kurzweil prevede che, a causa della natura esponenziale del progresso tecnologico, presto avremo a che fare con macchine "spirituali" che non solo dimostreranno ogni segno di autocoscienza, ma supereranno di gran lunga l'intelligenza umana. Non bisogna però confondere questa posizione “post-umana” con la preoccupazione paradigmaticamente moderna di conquistare un dominio tecnologico totale sulla natura. Quello a cui stiamo assistendo, invece, è un'inversione dialettica di questo processo.
Le scienze “post-umane” di oggi non cercano più il dominio. La sua convinzione è la sorpresa: che tipo di proprietà emergenti, contingenti e non pianificate acquisiranno i modelli di Intelligenza Artificiale "scatola nera"? Nessuno lo sa, e questo è il brivido – o, davvero, la banalità – di tutta questa impresa.
Così, all'inizio di questo secolo, il filosofo-ingegnere francese Jean-Pierre Dupuy ha individuato nella nuova robotica, genetica, nanotecnologia, vita artificiale e intelligenza artificiale una strana inversione della tradizionale arroganza antropocentrica che la tecnologia consente: “Come possiamo spiegare che la scienza è diventata un'attività così 'rischiosa' che, secondo alcuni eminenti scienziati, è oggi la principale minaccia alla sopravvivenza dell'umanità? Alcuni filosofi rispondono a questa domanda dicendo che il sogno di Descartes – 'diventare il padrone e il possessore della natura' – è andato storto, e che dobbiamo tornare urgentemente al 'dominio del dominio'. Non hanno capito niente. Non vedono che la tecnologia che sta prendendo forma nel nostro orizzonte attraverso la 'convergenza' di tutte le discipline mira proprio al non dominio. L'ingegnere di domani non sarà apprendista stregone per negligenza o ignoranza, ma per scelta.
L'umanità sta creando il proprio dio o diavolo. Sebbene il risultato non possa essere previsto, una cosa è certa. Se qualcosa come questa "post-umanità" emerge come un fatto collettivo, la nostra visione del mondo perderà tutti e tre i suoi soggetti definitivi e sovrapposti: umanità, natura e divinità. La nostra identità di esseri umani può esistere solo sullo sfondo di una natura impenetrabile, ma se la vita diventa qualcosa che può essere completamente manipolato dalla tecnologia, perderà il suo carattere "naturale". Un'esistenza completamente controllata è un'esistenza priva di significato, per non parlare del caso e del fascino.
Lo stesso, ovviamente, vale per qualsiasi senso del divino. L'esperienza umana di "dio" ha senso solo dal punto di vista della finitezza umana e della mortalità. Quando ci trasformiamo in homo deus e creiamo proprietà che sembrano essere "soprannaturali" dal nostro vecchio punto di vista umano, gli "dei" come li conosciamo scompariranno. La domanda è cosa, semmai, rimarrà. Adoreremo le intelligenze artificiali che abbiamo creato?
Abbiamo tutte le ragioni per temere che le visioni tecno-gnostiche di un futuro post-umano siano fantasie ideologiche che oscurano l'abisso che ci aspetta. Inutile dire che ci vorrà molto più di una pausa di sei mesi per garantire che gli esseri umani non diventino irrilevanti e le loro vite prive di significato in un futuro non troppo lontano.
*Slavoj Žižek, professore di filosofia alla European Graduate School, è direttore internazionale del Birkbeck Institute for the Humanities dell'Università di Londra. Autore, tra gli altri libri, di In difesa delle cause perse (boitempo).
Traduzione: Daniele Pavan.
Originariamente pubblicato sul portale Project Syndicate.
Il sito A Terra é Redonda esiste grazie ai nostri lettori e sostenitori.
Aiutaci a portare avanti questa idea.
Clicca qui e scopri come
