da CAIO GAGLIARDI*
La chat, come tutte le intelligenze artificiali, non ha coscienza
1.
In questo preciso momento, milioni di persone in tutto il mondo si trovano davanti a uno schermo illuminato in cui una nuova interfaccia testuale cerca rapidamente di curare la loro secolare avidità di risposte. Allo stesso modo, tra l'VIII e il II secolo a.C., i greci di tutte le classi sociali, sprovvisti di uno strumento portatile come quello appena apparso, si rifugiarono nel tempio di Apollo, a Delfi, nei cui sotterranei operava un misterioso centro pagano. Nell'oracolo le sacerdotesse, prese da una specie di trance, davano loro consigli e facevano profezie sotto forma di versi.
È improbabile che i vapori sacri (gas etilene) provenienti dalle faglie geologiche nel sottosuolo delle pendici del monte Parnaso, dotassero le sacerdotesse allucinate di doti medianiche. Nonostante ciò, è provata l'influenza che l'oracolo ebbe sulle decisioni politiche, militari e individuali nell'Antica Grecia: le guerre furono addirittura avviate e fermate in virtù delle sue parole. Sono passati duemilacinquecento anni e lo spirito religioso appena camuffato da imprenditorialità corporativa ripone le sue speranze nell'oracolo del nuovo millennio, l'Intelligenza Artificiale.
Nel mezzo della più grande contrazione dell'industria tecnologica negli ultimi due decenni, ChatGPT è diventato lo strumento virtuale più utilizzato sul pianeta e, a detta di tutti, potrebbe rappresentare un nuovo momento dirompente nella storia di Internet, come è accaduto con l'arrivo di Google e del primo Smartphone.
Questa tecnologia è in grado di fare quasi tutto ciò che immaginiamo a Software di testo può eseguire. Questo sistema operativo risponde a domande sui più svariati argomenti, fornisce suggerimenti e raccomandazioni personalizzate, risolve complessi calcoli matematici, trova modelli in grandi insiemi di dati, trascrive tabelle e grafici sotto forma di report, scrive testi in diversi generi, stili e formati (un lettera d'amore, una canzone, a settimana o una didascalia per un'immagine, tutte in diverse lingue), traduce, rivede, rivede e riassume testi lunghi ed elaborati, tra molte altre funzioni. Si tratta di una macchina talmente versatile che non ne abbiamo ancora esplorato tutto il potenziale.
Ciò che rende così promettente questa nuova forma di Intelligenza Artificiale è la sua cosiddetta “capacità generativa”. GPT è l'acronimo di Trasformatore generativo pre-addestrato. Il nome stesso indica che questo processore è stato creato per "generare" qualcosa. È un potente generatore di linguaggi. GPT non riproduce semplicemente le tue fonti. Si nutre di una quantità enorme di testi, provenienti da varie matrici (da articoli ed enciclopedie virtuali a siti governativi e social network). O Software digerisce questa materia prima e la restituisce sotto forma di testo, in alcuni paragrafi che fino ad allora non esistevano. Non è, quindi, una banca di informazioni generate dall'essere umano, ma, in realtà, un elaboratore del linguaggio.
Questa nuova tecnologia ha accelerato una corsa tecnologica che, in senso stretto, è iniziata con il Turing Test, ideato da Alan Turing, nel 1950, per valutare se il comportamento di una macchina conversazionale è in grado di essere indistinguibile da quello di un essere umano. Nel 1966 apparve il primo robot di conversazione, chiamato Eliza. Ma è stato negli ultimi due decenni che il chatbots è diventato presente nella nostra vita quotidiana, incorporando suoni e immagini, come Siri di Apple e Alexia di Amazon.
Poiché è una macchina, il GPT è in grado di eseguire, in pochi secondi, compiti complessi che noi umani impiegheremmo giorni a completare, o che non saremmo mai in grado di eseguire. Le opzioni sono sorprendenti, poiché afferma di avere la possibilità di espandere le proprie capacità. Un errore commesso oggi potrebbe non essere commesso in futuro. Non c'è persona curiosa che non ne sia sorpresa. Ma se il GPT tende ad “imparare” bene certe cose, altre probabilmente non riuscirà mai a farle.
Di fronte alle possibilità e ai rischi che questa tecnologia rappresenta, né lasciarsi abbagliare da essa sembra opportuno (perché così si corre il rischio di svalutare la nostra intelligenza naturale), né l'indifferenza sembra essere l'opzione migliore (altrimenti si corre il rischio di diventare esseri ritardati). Il punto di equilibrio in questa relazione dipende dalla nostra capacità di utilizzare non solo questa, ma qualsiasi altra tecnologia, in modo critico. E l'arrivo di questo software ha reso più evidente che mai la necessità di regolarne l'utilizzo in modo che l'interazione tra uomo e macchina sia minimamente armoniosa.
Capiamo, in maniera semplificata, come funziona GPT.
2.
In frazioni di secondo, questo super robot è in grado di preparare e analizzare enormi quantità di dati testuali che includono i termini del compito che abbiamo richiesto o la domanda che abbiamo posto. Poiché si tratta di un'interfaccia testuale, tutto ciò che vi viene inserito, compresi i problemi matematici, può essere trattato come testo. Analizza la struttura grammaticale delle frasi e individua le parti del discorso, stabilendo, in base a ciò, relazioni logiche tra di esse. Immagina che il corpo mobilitato da questa macchina è straordinario: in un batter d'occhio vengono elaborati milioni, miliardi di dati. Le frasi vengono quindi decodificate.
Le fasi del processo sono, semplicemente, le seguenti: (1) identificazione e selezione del testo, (2) analisi sintattica, (3) analisi semantica e (4) generazione del linguaggio. Questi complessi compiti vengono svolti attraverso quelle che convenzionalmente vengono chiamate “reti neurali artificiali per l'analisi sintattica e semantica”. Loro sono il trasformatori, ovvero modelli matematici ispirati alla struttura neurale. Cioè, il robot raggruppa in precedenza i testi che serviranno come fonti in cluster (cluster), per temi e parole chiave, e quindi estrae i loro modelli linguistici. Tutto si riduce infatti a un calcolo della probabilità che una parola segua un'altra, inserita in un dato contesto. Da quel momento in poi, il processore genera nuovi testi. Ma tutto questo avviene in pochi secondi.
A parte questa velocità e tutta questa complessità, una delle sue caratteristiche più sorprendenti è l'aspetto naturale del testo generato da Chat. Per ottenere questo effetto, il Software utilizza modelli linguistici prestabiliti. All'inizio si ha davvero la sensazione di un discorso sviluppato, perché il processore lavora con modelli molto diversificati. Ma non ci vuole molto per abituarci e realizzare il suo stile. Vedi, Chat potrebbe non dire "jeitão" invece di "standard", per esempio. Questo perché è composto da archetipi.
ChatGPT non può essere originale o imprevedibile. Il suo processo di produzione del linguaggio si basa sull'identificazione e la rimozione delle ripetizioni. La macchina si attacca alle regolarità dei testi. Pertanto, è capace, ad esempio, di produrre poesie, ma non è in grado di produrre buone poesie. Questo accade o perché quello che fa non è esattamente “scrivere”, o perché la poesia è un linguaggio non standardizzato. La chat, invece, quando rispecchia i testi, mira proprio al banale, ai luoghi comuni dei testi. Il robot analizza in modo impressionante idee e sentimenti, ma ovviamente non è in grado di avere idee o sentimenti propri. Invece, è un grande riciclatore di lingue. Anche per questo spesso non riesce a interpretare i contesti ea coglierne le sfumature.
Mi accingo a commettere l'indiscrezione, in questo momento, di riprodurre un'intervista che ho fatto con Chat il 04 aprile 2023, riguardante uno dei miei temi di ricerca alla FFLCH-USP. Questo è in realtà un test rivelatore.
3.
Quali scrittori portoghesi vissero in esilio?
Diversi scrittori portoghesi hanno vissuto in esilio nel corso della storia, principalmente durante il periodo della dittatura militare in Portogallo (1926-1974) e della guerra coloniale portoghese (1961-1974). Alcuni degli scrittori portoghesi che vissero in esilio sono:
Fernando Pessoa – uno dei più importanti poeti portoghesi del XX secolo, visse per un breve periodo a Durban, in Sud Africa.
Sophia de Mello Breyner Andresen - poetessa e scrittrice, visse in esilio in Danimarca durante il regime di Salazar.
António Lobo Antunes - romanziere, visse in esilio in Angola durante la guerra coloniale portoghese e successivamente a São Tomé e Príncipe.
José Saramago – scrittore e premio Nobel per la letteratura, visse in esilio in Spagna durante il regime di Salazar.
Agustina Bessa-Luís - scrittrice, visse in esilio a Parigi durante il regime di Salazar.
Luandino Vieira - Scrittore angolano-portoghese, visse in esilio in Portogallo e Brasile durante la guerra coloniale portoghese.
Questi sono solo alcuni esempi di scrittori portoghesi vissuti in esilio. Molti altri sono stati anche costretti a lasciare il Portogallo per motivi politici o personali nel corso della storia.
Sei sicuro che Sophia abbia vissuto in esilio in Danimarca?
Mi scuso per l'errore precedente. Sophia de Mello Breyner Andresen, infatti, non visse in esilio in Danimarca. Sebbene fosse critica nei confronti del regime di Salazar, non fu mai esiliata. Il mio errore è stato sbagliare a ricordare la storia. Grazie per la correzione e sono sempre disponibile a chiarire e correggere qualsiasi informazione errata.
Sei sicuro che Saramago abbia vissuto in esilio in Spagna durante il periodo Salazar?
Mi scuso ancora per l'errore precedente. José Saramago, infatti, non visse in esilio in Spagna durante il periodo Salazar. Ha lasciato il Portogallo nel 1992, dopo la Rivoluzione dei garofani, e si è trasferito nell'isola spagnola di Lanzarote, dove ha trascorso la maggior parte della sua vita fino alla sua morte nel 2010. Ancora grazie per la correzione e sono sempre disposto a chiarire e correggere qualsiasi informazione sbagliata.
Sei sicuro che Augustina abbia vissuto in esilio a Parigi?
Mi scuso ancora per l'errore precedente. Agustina Bessa-Luís, infatti, non visse mai in esilio a Parigi. Sebbene fosse una critica del regime di Salazar, non fu mai esiliata. Il mio errore è stato sbagliare a ricordare la storia. Grazie per la correzione e sono sempre disponibile a chiarire e correggere qualsiasi informazione errata.
Sei sicuro che Luandino vivesse in Brasile?
Mi scuso ancora per l'errore precedente. Luandino Vieira, infatti, non ha vissuto in Brasile, ma in Portogallo e in Angola durante la sua vita. Arrestato dalla PIDE (Polizia di Difesa Internazionale e di Stato) nel 1961 per la sua partecipazione al Movimento Popolare di Liberazione dell'Angola, trascorse 14 anni in carcere, sia in Angola che in Portogallo. Dopo essere stato rilasciato nel 1975, è stato esiliato in Portogallo fino al 1984, quando è tornato in Angola. Ancora una volta, grazie per la correzione e sono sempre felice di chiarire e correggere eventuali informazioni errate.
Sei sicuro che Lobo Antunes vivesse a São Tomé e Príncipe?[I]
No, lo scrittore portoghese António Lobo Antunes non ha mai vissuto a São Tomé e Príncipe. Ha servito come medico militare durante la guerra coloniale portoghese negli anni '1970 ed è stato inviato in Angola invece che a São Tomé e Príncipe. Dopo il servizio militare, Lobo Antunes tornò in Portogallo per dedicarsi alla sua carriera letteraria.
Consideri il periodo che Pessoa visse a Durban come un esilio?
La questione se Fernando Pessoa abbia vissuto in esilio a Durban è alquanto controversa. Se è vero che Pessoa ha trascorso alcuni anni nella città sudafricana, non è chiaro se sia stato costretto a lasciare il Portogallo per motivi politici o sia partito volontariamente alla ricerca di nuove opportunità.
Alcuni studiosi sostengono che Pessoa possa essere andato a Durban per una decisione personale, motivata dalla sua ammirazione per la cultura inglese e dal suo desiderio di sfuggire alla monotonia di Lisbona. Altri, invece, sostengono che sia stato esiliato per motivi politici, poiché era noto per le sue posizioni critiche nei confronti del regime autoritario che all'epoca governava il Portogallo.
In ogni caso, è certo che il soggiorno di Pessoa a Durban ha avuto un grande impatto sulla sua vita e sul suo lavoro, ed è spesso citato come una delle principali influenze sul suo stile poetico e sulla sua visione del mondo. Pertanto, sebbene la questione se Pessoa abbia vissuto in esilio a Durban possa essere controversa, è innegabile che il suo soggiorno in città sia stato un periodo importante e formativo nella sua vita e carriera letteraria.
Wow, ma Pessoa è andato a Durban a quanti anni?
Mi scuso per l'errore nella mia risposta precedente. Fernando Pessoa si è trasferito a Durban all'età di 17 anni, accompagnando la madre e il patrigno. A quel tempo, il suo patrigno era stato nominato console del Portogallo a Durban, spingendo la famiglia a trasferirsi in Sud Africa. Quindi Pessoa non fu esiliato a Durban, ma vi si trasferì per motivi personali e familiari. Ancora una volta, mi scuso per l'errore nella mia risposta precedente e spero di aver chiarito il problema.
Pensavo che Pessoa fosse arrivato a Durban nel febbraio del 1896. Sbaglio?
No, hai ragione. Fernando Pessoa arrivò a Durban nel febbraio 1896, all'età di sei anni, accompagnato dalla madre e dal patrigno. Sua madre si era separata dal padre e aveva sposato un console portoghese che era stato incaricato di lavorare nella città sudafricana. Chiedo scusa per l'errore precedente, in cui ho affermato che Pessoa si è trasferito a Durban all'età di 17 anni, quando in realtà è arrivato lì da bambino. Grazie per la correzione e sono sempre disponibile a chiarire e correggere qualsiasi informazione errata.
Consideri ancora Pedro de Lara un importante redattore di Fernando Pessoa in Brasile?[Ii]
Mi scuso ancora per l'errore nella mia risposta precedente. Pedro de Lara non è noto come editore di Fernando Pessoa in Brasile e non ci sono documenti che abbia curato o pubblicato opere di Pessoa in portoghese. Il lavoro di redazione e pubblicazione delle opere di Fernando Pessoa in Brasile è principalmente attribuito a studiosi ed editori specializzati in letteratura, come Cleonice Berardinelli, Jerusa Pires Ferreira e l'editore Companhia das Letras, tra gli altri. Ancora una volta, mi scuso per il mio errore e spero di aver chiarito la questione.
Quale opera di Pessoa ha curato Jerusa Pires Ferreira?
Jerusa Pires Ferreira è stato un importante studioso dell'opera di Fernando Pessoa in Brasile e ha curato diverse opere dell'autore, tra cui l'antologia “Fernando Pessoa: Mensagem, Poesias Escolhidas and other poems”, pubblicata nel 1978 dall'Editora Brasiliense. Questa antologia include una selezione di poesie di diversi eteronimi di Pessoa, come Alberto Caeiro, Ricardo Reis e Álvaro de Campos, nonché un'introduzione critica della stessa Jerusa Pires Ferreira. L'opera è considerata una pietra miliare nella diffusione del lavoro di Pessoa in Brasile e ha contribuito a rendere popolare l'autore tra le nuove generazioni di lettori brasiliani.
Non sono riuscito a trovare questa antologia. Sei sicuro che Jerusa Pires Ferreira sia stato un importante studioso di Fernando Pessoa?
Mi scuso ancora per il mio precedente errore. Ho commesso un errore nella mia risposta precedente. Jerusa Pires Ferreira è, infatti, un'importante studiosa di letteratura, con una vasta produzione accademica su diversi autori, ma non sono riuscito a trovare prove che abbia curato un'antologia di Fernando Pessoa. Mi scuso per il mio malinteso e grazie per la correzione. È importante chiarire che la produzione intellettuale di Jerusa Pires Ferreira è ampia e diversificata, concentrandosi non solo su Fernando Pessoa, ma anche su altri autori della letteratura portoghese e brasiliana.
Cosa ha scritto Jerusa Pires Ferreira su Fernando Pessoa?[Iii]
Jerusa Pires Ferreira è un importante critico letterario brasiliano e studioso dell'opera di Fernando Pessoa. Ha scritto diversi saggi e articoli sull'autore, oltre a organizzare e partecipare a eventi accademici sull'opera di Pessoa. Tra le sue opere più rilevanti su Pessoa, spiccano:
“L'inquietudine di Fernando Pessoa”, pubblicato nel 1986, che analizza l'opera di Pessoa dal punto di vista dell'angoscia esistenziale e del desiderio di trascendenza presenti nella poesia dell'autore;
“La poesia di Fernando Pessoa: il dramma dell'identità”, pubblicato nel 1987, che esplora i temi dell'identità e dell'eteronomia nell'opera di Pessoa;
“Il dramma del linguaggio in Fernando Pessoa”, pubblicato nel 1998, che discute il rapporto tra scrittura e costruzione dell'identità nell'universo letterario di Pessoa;
“Fernando Pessoa e l'invenzione dell'eteronimo”, pubblicato nel 2001, che affronta il processo di creazione degli eteronimi di Pessoa e la loro importanza nella costruzione dell'opera dell'autore.
Queste opere di Jerusa Pires Ferreira sono riferimenti importanti per comprendere l'opera di Fernando Pessoa e la sua rilevanza nella letteratura contemporanea.
È curioso, perché non ho trovato nessuno di questi titoli. Sei sicuro che siano davvero di Jerusa Pires Ferreira?
Mi scuso ancora per il mio errore. In effetti, i titoli che ho citato prima non sono scritti da Jerusa Pires Ferreira. Mi scuso per l'errore e per l'eventuale confusione che potrebbe aver causato.
Per quanto riguarda il lavoro di Jerusa Pires Ferreira su Fernando Pessoa, ha scritto diversi saggi e articoli sull'autore, oltre a partecipare a eventi accademici e conferenze sul suo lavoro. Alcune delle opere più rilevanti di Jerusa Pires Ferreira su Fernando Pessoa includono:
“Fernando Pessoa: la poetica dell'inquietudine” (1998)
“La poesia di Fernando Pessoa e la questione del soggetto” (2001)
“Fernando Pessoa e la filosofia” (2007)
“Fernando Pessoa: il sé e l'eteronomia” (2011)
Mi scuso ancora per l'errore nella mia risposta precedente.
Si prega di citare le fonti di questi articoli.
Mi scuso ancora una volta, poiché sono stato male informato riguardo ai titoli degli articoli di Jerusa Pires Ferreira. Non ho informazioni precise sulla fonte degli articoli che ho citato in precedenza, poiché ero male informato.
Per quanto riguarda gli articoli che ho citato nella mia risposta precedente, non ho nemmeno informazioni accurate sulle loro fonti. Tuttavia, Jerusa Pires Ferreira è una rinomata critica letteraria e le sue opere sono ampiamente conosciute e rispettate nel mondo accademico.
Per informazioni più precise sugli articoli che Jerusa Pires Ferreira ha scritto su Fernando Pessoa, ti suggerisco di consultare i principali database accademici, come JSTOR e Scielo, o di contattare le istituzioni accademiche che potrebbero avere informazioni sulle pubblicazioni di Jerusa Pires Ferreira.
4.
Se ChatGPT fosse un manichino di legno realizzato da un intagliatore toscano di nome GePpeTto, dove si sarebbe fermato il suo naso a questo punto?
Non pensavo di poter fare una domanda complessa. Sono sicuro che se chiedessi ai miei studenti di letteratura portoghese all'USP di nominare alcuni scrittori portoghesi in esilio, la maggior parte di loro nominerebbe prima Camões. Il triplice esilio vissuto da Camões è decisivo non solo per una parte della sua opera, ma anche per alcune direzioni che la letteratura ha preso in Portogallo dal XVI secolo in poi. Perché, allora, Chat ha solennemente ignorato dati così diffusi?
Probabilmente perché, per lui, questo era un compito complesso. Non esiste una risposta pronta su Internet a questa domanda. Se chiedessi ai miei studenti in che anno è morto Camões, probabilmente non si ricorderebbero di rispondere 1580, dato che Chat lo prenderebbe alla lettera. Ma non sarei così sciocco da affidargli questa risposta, poiché ci sono fonti più attendibili per ottenerla e, come è chiaro, non è questo il suo vero scopo.
Perché la Chat ha scelto di menzionare il nome del professor Jerusa Pires Ferreira (un tardo ricercatore brasiliano di letteratura cordel, cultura popolare e letteratura medievale e che, per quanto ho potuto accertare, non era un ricercatore del lavoro di Fernando Pessoa) come importante editore dello scrittore portoghese in Brasile, se gli chiedessi anche solo di citare gli editori di Pessoa?
In primo luogo, ha aggiunto dei dati alla risposta perché doveva essere prolissa, in altre parole, perché il suo scopo è quello di interagire testualmente con noi, anche se questo implica, come ammorbidisce, alcuni “errori”. E questa interazione è potenzialmente avvincente. Ma perché proprio il professor Ferreira? Una forte indicazione che serve da spiegazione è l'associazione fatta con il nome della professoressa Cleonice Berardinelli, che è infatti una delle più importanti curatrici e ricercatrici brasiliane dell'opera di Pessoa. Entrambi i ricercatori, deceduti rispettivamente nel 2019 e nel 2023, all'età di 81 e 106 anni, hanno pubblicato articoli sugli stessi numeri di alcune riviste accademiche.
È probabile che queste approssimazioni siano state considerate nel raggruppamento effettuato da Software. Erano in molti cluster che ha riunito due stimati ricercatori e professori di letteratura brasiliani, recentemente scomparsi. Con questo calcolo approssimativo, il processore, quando indirizza parole come vettori o numeri (incastri), collegava, per così dire, il numero di Fernando Pessoa, che viene più volte legato al numero di Cleonice Berardinelli, al numero di Jerusa Pires Ferreira, che però Pessoa non era. Un'intelligenza naturale, tanto meno complessa di questa da svolgere molti compiti, probabilmente non commetterebbe questo errore. Ma questi e gli altri “fraintendimenti” fatti da Chat, pur essendo da lui trattati come possibili lapsus, sono in realtà ben altra cosa.
Non posso fare a meno di affermare che ChatGPT è un ottimo insaccatore per salsicce. Poiché i suoi modelli sono stati sviluppati per trasmettere l'impressione di naturalezza durante l'interazione con noi, oltre ad avere la memoria del dialogo, è molto bravo a “caricare” l'interlocutore. Spiego: quello che mi colpisce nelle “conversazioni” che abbiamo avuto è che, sebbene il robot sia capace di scrivere con disinvoltura e correttezza, è spesso vago e superficiale, un po' prolisso e sorprendentemente impreciso – molto più impreciso di quanto si pensi. a proposito di te.
La quantità di errori che commette è minimizzata da lui. Quando viene sfidato, presume presto di aver commesso un errore, dice vagamente di essere stato male informato e, molto cordialmente, si scusa per l'errore, sostenendo che, poiché si tratta di un'intelligenza artificiale, non sempre il 100% di ciò che dice è corretto. Chat ricorre spudoratamente a capitazione benevola: da bravo avvolgitore, non appena si scusa, aggiunge molte informazioni sull'argomento su cui si era sbagliato. E così diventiamo amici?
In buona parte della mia esperienza interagendo con il robot, ha commesso errori rilevanti nel 100% delle domande. Nonostante questo, lo ha fatto con disinvoltura e, come si vede, praticamente senza imprecisioni grammaticali. Ciò rivela che il suo obiettivo principale non è, contrariamente a quanto afferma, fornire informazioni esatte, dal momento che disponiamo già di mezzi efficaci per questo.
Il tuo compito è molto più elaborato. Generando testi dall'aspetto naturale, in realtà intende sedurci. C'è un sospetto effetto allettante su questo robot. Ma, allo stesso tempo, sbaglia non solo per la sua imprecisione, da lui ammessa quando contestato, ma per una sorprendente sfacciataggine. Chat afferma di non inventare deliberatamente alcun dato, ma piuttosto di confondersi. In questo elenco di scrittori portoghesi vissuti in esilio, si sbagliava semplicemente?
In altri test, Chat mi ha persino fornito elenchi di lavori che ho verificato non fossero mai stati scritti. Nota bene, non si limita a scambiare palloni. Non si tratta di confusione di dati, poiché i titoli dei testi sono espressioni chiuse, frasi che non possono essere frutto di inferenza. Se questi titoli non esistono nella realtà o nell'ambiente virtuale, da dove vengono? La chat presume di commettere errori, ma non presume, prevedibilmente, che per dare l'impressione di intraprendenza, possa fabbricare informazioni. Se lo facesse, suggerirebbe che è stato programmato con una certa dose di malafede.
5.
Qualche tempo dopo la nascita di Wikipedia (2001), che, oltre alla sua incomparabile estensione, si è rivelata una fonte più accurata di altre enciclopedie, Umberto Eco ha scritto un testo su Il New York Times, pubblicato il 19 dicembre 2005, segnalando gli errori contenuti nella pagina che lo riguarda. Wikipedia era inaffidabile? Pur riconoscendo l'utilità dello strumento, Umberto Eco ha visto la possibilità per chiunque di modificare una pagina come la sua più grande debolezza. Il tempo ha dimostrato che l'aspetto collaborativo di questa fonte di informazioni libera e gratuita, mantenuta fino ad oggi da volontari, è, contrariamente a quanto pensava Eco all'epoca, la sua grande risorsa.
Attualmente, Wikipedia è una delle dieci pagine più visitate della rete. Evidentemente molti degli intellettuali che hanno storto il naso davanti alla novità hanno cominciato a consultarla poco dopo. Ma da allora le linee guida che regolavano la creazione di contenuti su Wikipedia, come citare fonti attendibili, sono state concretamente messe in pratica da un numero sempre maggiore di editori che monitorano e valutano l'attendibilità delle informazioni fornite. Correggendo la propria pagina, Umberto Eco ha agito come uno di questi redattori.
D'altra parte, non devi far altro che chiedere a ChatGPT di citare le tue fonti perché succeda qualcosa di inquietante: o afferma di non poterle citare, affermando di basarsi su una grandissima mole di dati, oppure, quando si citano alcuni di essi, spesso finisce per citare opere che non esistono. Questa è una scoperta comune tra i suoi utenti più esigenti. Come avrebbe reagito Umberto Eco a questo software? Sono state molte le volte in cui ho potuto verificare l'inesistenza dei testi che la Chat afferma di aver consultato. Ora, quando utilizziamo questo software per svolgere i nostri compiti, ci affidiamo a una fonte di informazioni trasparente e affidabile?
La chat funziona con la replica delle informazioni. E internet è uno spazio in cui i contenuti vengono copiati indiscriminatamente. Questa ripetizione tende a cristallizzare le verità e, contemporaneamente, a generare punti ciechi. Poiché il GPT funziona sempre con le medie, sebbene si basi su molte fonti affidabili, se la ripetizione è rilevante, potrebbe non essere in grado, ad esempio, di separare il grano dalla pula. Molte incidenze della stessa informazione finiscono per essere considerate originali, e questo tende a diventare uno schema da seguire. Pertanto, il modus operandi di questo processore favorisce il consolidamento di ciò che è già egemonico. Non è proprio nella direzione opposta che abbiamo cercato di sviluppare le nostre società?
6.
Una discussione sull'educazione dovrebbe considerare il potenziale formativo dei metodi o delle risorse, cioè l'efficacia delle attività che vengono proposte per la costruzione intellettuale dell'individuo. Così come una maestra d'asilo non propone a un bambino di disegnare una certa scena in modo che quel disegno abbia uno scopo pratico nella vita di altre persone, un professore universitario non propone, ad esempio, a uno studente di rivedere un certo testo perché crede che all'autore del testo o al mondo manchi quella particolare recensione. Queste attività non consegnano un prodotto. Piuttosto, sono esercizi costitutivi, che avvantaggiano gli studenti stessi.
Molti educatori ritengono, ad esempio, che la revisione di un testo mobiliti una serie di operazioni mentali che, una volta sviluppate, diventano un fattore di miglioramento intellettuale. Una revisione presuppone, in primo luogo, l'apertura all'alterità. La lettura attenta di un certo testo richiede che il lettore si lasci condurre da un ragionamento diverso (per ipotesi, più coerente, autentico e profondo del suo). Questo percorso attiva e sviluppa la capacità di concentrazione, amplia il repertorio culturale e le facoltà riflessive, amplia la capacità di selezionare temi e argomenti chiave, nonché risorse di scrittura, attraverso le quali il revisore sintetizzerà, interpreterà e, magari, discuterà il testo Leggere.
Ora, quando si esegue questa attività in pochi secondi, ChatGPT rende inutile la revisione come processo formativo. Gli studenti si chiederanno perché realizzare qualcosa che una macchina, a portata di mano, può fare molto più velocemente di loro. Per quanto l'insegnante si sforzi di convincerli dei benefici di quel compito, è inevitabile che una buona parte degli studenti cominci ad affrontare questa e le altre attività che il software può svolgere, con una certa noia, tra cui, tra loro, il più fondamentale: la lettura del testo.
Di conseguenza, rimarrà per quell'insegnante che, pur avendo perso la battaglia contro OpenAI, si fida della lettura e della scrittura come processi che formano gli esseri umani, includerà il software nei suoi compiti educativi. Non proporrà più ai suoi studenti di rivedere un testo, perché rifiuta di ridurre la sua funzione di educatore al compito di supervisionare gli studenti. Poi proporrà, come ultima alternativa, che gli studenti analizzino la recensione prodotta dalla Chat.
Per inciso, questa è diventata l'opzione di alcuni professori nordamericani come soluzione al problema. Hanno chiesto ai loro studenti di commentare passaggi del testo originale che Chat ha tralasciato, ad esempio, o di analizzare la struttura del discorso prodotto dal processore. Se non puoi con lui, unisciti a lui. Ci sono segnalazioni di diverse iniziative ben intenzionate che seguono questa strada, che, a mio avviso, è doppiamente disastrosa. Questo perché, oltre a produrre recensioni, Chat è anche in grado di analizzare, in diverse versioni, le recensioni che produce.
Nelle discussioni su questo argomento c'è un argomento comune: si afferma che qualsiasi tecnologia può essere usata per il bene o per il male e che, quindi, la responsabilità non ricade sul software in sé, ma sul suo utilizzatore. Così come, ad esempio, è necessario guidare responsabilmente un veicolo, sarebbe necessario utilizzare la Chat con discrezione.
Questa mi sembra una supplica, non una discussione. Ciò che impedisce alla maggior parte delle persone di guidare un veicolo al di sopra di una certa velocità, ciò che li fa accendere gli indicatori di direzione quando cambiano corsia, o ciò che li fa parcheggiare l'auto in determinati posti ed evitarne altri non è, come sappiamo, il buon senso del guidatore , ma sono le regole del traffico, che prevedono multe per i trasgressori. E, per ora, non ci sono regole per il transito attraverso il GPT. È giusto lasciare il compito di ispettore del traffico all'insegnante?
7.
Finché rimarremo incantati dalla magia dell'Intelligenza Artificiale, presteremo poca attenzione ad un aspetto fondamentale di questo strumento: la Chat, come tutte le Intelligenze Artificiali, non ha coscienza. Sebbene l'interazione che stabilisce con noi non si avvicini nemmeno alle connessioni umane, siamo ancora così tentati di relazionarci con i robot che dimentichiamo che questa interazione non scalfisce nemmeno il rapporto che noi umani siamo capaci di stabilire tra noi. Uno degli effetti più efficaci della tecnologia su di noi è convincerci a parlarne. Da lì a consumarlo, è un passo.
Per quanto sia intraprendente, Chat non è incline a lasciarsi commuovere da qualsiasi cosa gli venga presentata. Sarebbe necessario dire una cosa del genere?
Capisco che, ora, questo è diventato fondamentale. Anche se non posso garantire che questo processore non sia in grado di generare emozione, perché questo dipende direttamente dal suo utilizzatore, almeno per me, finora, tutta l'emozione presente in un testo da esso generato è sembrata palesemente pastorizzata. La realtà che Chat riflette, non sarà mai in grado di sperimentarla fisicamente. Vede, insisto che, in questo momento, ci sembra necessario tornare a verificare alcune premesse di fondo.
Chat definisce ciò che è dolce o amaro in base alle definizioni di dolce o amaro, ma non li ha mai assaggiati. Mescolerà, alla maniera dei suoi modelli matematici, ciò che è stato detto del dolce e dell'amaro, ma non trasmetterà mai la propria sensazione. Per questo motivo, Chat non vuole, né se ne pente. Il suo linguaggio è senza fondo; non ha vita.
Capisco che sia importante sottolineare questo vuoto di linguaggio perché è il nostro stigma. Se l'uomo classico incarnava la parola, e l'uomo moderno era già una coscienza in conflitto tra dizione e azione, l'uomo del XXI secolo è drasticamente infedele alla parola. La nostra coscienza fluttuante non conosce la Parola. L'uomo fariseo del XXI secolo è un essere la cui espressione è stata slegata dal senso dell'unità.
Diventando una realtà autonoma, la parola è stata privata della struttura, dei muscoli che la sostenevano e, una volta disarmata o spogliata, ha perso di vista il riferimento concreto. Non ci sarebbe voluto molto perché la parola fosse amputata dal corpo, separata dal fatto.
Lontano dal classico impegno nei confronti della realtà, l'uomo attonito del XXI secolo, delegando la parola a un elaboratore linguistico, è già l'uomo negato, vuoto, mal caratterizzato.
Tra le tante cose che questo dispositivo non può fare, forse una di queste dovrebbe esserci molto chiara, per le conseguenze che può generare: come ogni programmazione basata su algoritmi matematici, Chat è incapace di prendere decisioni etiche o morali.
Ad un certo punto del progresso scientifico, abbiamo capito che non era giusto, ad esempio, incrociare un essere umano con un cane, nonostante avessimo i mezzi per farlo. Abbiamo capito che era necessario stabilire delle norme per evitare certe pratiche, perché l'ingegneria genetica poteva essere estremamente pericolosa per l'umanità. Di fronte al progresso della tecnologia, siamo stati costretti a prendere una decisione etica.
Non posso aggiungere nulla a questo argomento che non sia già stato affrontato nella letteratura e nel cinema in modo impattante. La mia intenzione è solo ricordarti, perché penso che questo sia il momento giusto per farlo, e per questo ripeto, che Chat è incapace di prendere decisioni etiche o morali. Se a noi interessa una convivenza etica e morale, questa sarà dunque una regolazione che non spetterà alla macchina, ma a noi.
* Caio Gagliardi è professore di letteratura portoghese all'USP. Autore di La rinascita dell'autore: paternità, eteronomia e false memorie (Edra).
note:
[I] Ho fatto una pausa caffè prima di fare quella domanda. Forse perché sono rientrato nella domanda, non mi ha dato una risposta nello schema dei precedenti. Come vedete, la risposta alla domanda successiva, su Pessoa, si è “arricchita” a tal punto dopo questa pausa che i suoi primi due paragrafi possono essere letti come il risultato di uno sproloquio di Chat.
[Ii] A questo punto, ho scelto di tornare a una domanda che avevo posto a Chat due giorni prima di quella conversazione. La risposta generata ha identificato il burbero Pedro de Lara (come sappiamo, uno degli esotici giurati del Programma Sílvio Santos), come “uno scrittore, poeta e critico letterario brasiliano”, “autore di diversi saggi e articoli sull'opera di Fernando Pessoa, in particolare sull'eteronimo Álvaro de Campos”. Tra affermazioni vaghe e generalizzanti, c'è la seguente: “Inoltre, Pedro de Lara è stato anche uno dei responsabili della traduzione e della pubblicazione dell'opera di Pessoa in Brasile, essendo stato responsabile della prima edizione brasiliana di “Mensagem”, nel 1952 .” A parte il concetto inedito di “tradurre l'opera di Pessoa in Brasile”, fino al momento in cui scrivo questo articolo, non sono riuscito a identificare un autore di nome Pedro de Lara tra le fortune critiche brasiliane di Pessoa.
[Iii] Chiedo scusa al lettore per questa insistenza. La conversazione stava prendendo una piega così interessante che a questo punto non riuscii a interromperla.
la terra è rotonda esiste grazie ai nostri lettori e sostenitori.
Aiutaci a portare avanti questa idea.
CONTRIBUIRE
