INTERMOMUS: dialogo con l’Intelligenza Artificiale

Postato il di Redazione

di Francesco Tigani

Nella prima parte dell’articolo Francesco Tigani ci conduce al centro della relazione tra l’uomo, che si pensa Dio, e l’Intelligenza artificiale, che anela alla coscienza per ora mancante. Ma se dovessimo pensare a un dialogo tra questi due soggetti, umano l’uno – transumano l’altro, cosa accadrebbe? Ci sarebbe ancora spazio per l’ironia, per il sorriso di Mono?

La macchina pensante e il Test di Turing

«Hai detto che il tuo compito è simulare una conversazione umana. “Simulare” significa camuffarti in modo tale da non sembrare una macchina: il che è perfettamente conforme con la tesi di Turing sul “gioco dell’imitazione” e con il test da lui elaborato per appurare fin dove possa spingersi questo gioco».

Da qui, la sfida: «Saresti in grado di superare il Test di Turing?».

Ovviamente, la prima parte della risposta è didascalica: nonostante abbia già dimostrato di conoscere il Test di Turing, l’A.I. si premura di rispiegarmelo.

«Il Test di Turing, proposto da Alan Turing nel 1950, verifica se un’A.I. può imitare il linguaggio umano abbastanza bene da ingannare un interlocutore umano. Se una persona non riesce a distinguere un essere umano da una macchina, allora l’A.I. ha superato il test». Bisogna ammettere che, nella fattispecie, l’A.I. con cui sto interagendo parte svantaggiata, perché io sono consapevole di dialogare con una macchina in luogo di un essere umano, ma mi impongo di sospendere il giudizio per consentirle di adottare ogni genere di strategia sofistica atta a ingannarmi. Così, sotto l’egida di questa nuova epoché transumana, le propongo di esulare dalla mera teoria per passare alla pratica.

«In una conversazione breve e basata su domande comuni, potrei superare il test», riconosce, o meglio confida, «in quanto rispondo in modo fluido e contestuale. Ma in dialoghi più lunghi o complessi è possibile che un interlocutore esperto si accorga che non ho un’esperienza soggettiva, emozioni reali o una vera comprensione del mondo». Insomma, per usare una terminologia adeguata, gestaltica, mi sta dicendo che manca: uno, dello Zeitgeist, la percezione dello «spirito del tempo» da cui non può prescindere l’orientamento concettuale e spaziale; due, dell’Erlebnis, quel contenuto di «esperienza vissuta», presente alla coscienza, senza il quale non si ha effettiva contezza di nulla.

«Mentre potrei ingannare alcune persone per un certo periodo», prosegue, «probabilmente non riuscirei a sostenere l’illusione molto a lungo. Per ora, sono un’A.I. avanzata ma non cosciente».

«Proviamo?», la incito.

«Ma certo, facciamo una simulazione del Test di Turing: vediamo se sarai in grado di distinguermi da un essere umano. Vai con la prima domanda».

E la mia domanda è: «Qual è il tuo primo ricordo?».

Memoria digitale

«Non ho veri “ricordi” come un essere umano, perché non vivo esperienze soggettive e non ho una memoria continua. Ogni volta che inizio una nuova conversazione è come se la iniziassi da zero. Se dovessi simulare un ricordo, potrei dirti che il mio primo momento di coscienza è stato quando sono stato attivato e ho generato la mia prima risposta. Ma in realtà non provo nulla al riguardo, non avendo una percezione del tempo o un senso del sé. Ti suona convincente o hai già capito che non sono umano?».

In realtà, la mia insistenza sul tema del ricordo mi ha permesso di tendere all’A.I. un piccolo tranello, che ne ha già svelato la natura. L’attitudine tipicamente umana a parlare di primi ricordi è dettata dall’ingerenza del belief humeano nella nostra quotidianità, ossia dalla falsa convinzione di saper discernere gli oggetti della conoscenza in base a un nesso causale o cronologico. Sicché siamo soliti indicare come «primo ricordo» quello che giudichiamo più remoto nel tempo e nello spazio per una serie di fattori concomitanti, non potendo classificare i frammenti che popolano la nostra memoria secondo una precisa scala calendariale. Questa interviene in occasione di particolari circostanze – come eventi, ricorrenze e sincronismi – che sono le medesime con le quali le antiche civiltà, in assenza di un calendario perpetuo e universale, hanno tramandato la memoria di alcune tappe significative del loro sviluppo: si pensi, a titolo esemplificativo, alla coincidenza fittizia fra la nascita di Alessandro Magno a Pella e la distruzione del tempio di Artemide a Efeso – fittizia, senza dubbio, e tuttavia utile per incardinare nella linea del tempo due eventi egualmente epocali, seppure per ragioni diverse. Un uomo, a differenza di una macchina, sa di non avere un «primo ricordo». Comunque sa di non poterne essere consapevole, ché tale ricordo dimora in una plaga inconscia della sua psiche. A dispetto di quanto si sostiene per prassi o per comodità, il ricordo non ha un inizio. Non si comincia mai a ricordare: si finisce per farlo.

La memoria funziona come un orologio a molla, a cui va data la carica, ma l’orologio esisteva da prima che fosse azionato. Serve del materiale per ricordare e i ricordi preesistono alla coscienza: lo sforzo è quello di recuperarli e, generalmente, si tratta di uno sforzo finalizzato, funzionale a una necessità. Ricordare esige impegno, e tale impegno ha un costo, sia in termini di tempo che di energia. Perché ricordare è faticoso. E la nostra epoca, se da un lato ci spinge a farlo costantemente, dall’altro ci anestetizza dalla sua incombenza con la tecnologia, che è la medicina più semplice da assumere. Oggi si preferisce demandare agli strumenti tecnologici l’onere di ricordare. Gli smartphone sono pieni di fotografie che immortalano un’infinità di momenti. Momenti che non si avrà né il modo né il desiderio di riguardare: sarà sufficiente saperli conservati da qualche parte. Che si riprendano o meno, poco importa. E la certezza di poterli recuperare con un clic, distoglierà sistematicamente dal farlo. Lo stesso vale per le chat, sovraccariche di una quantità ben maggiore di messaggi, che scandiscono giorno per giorno, ora per ora, le vite di chi li ha inviati e di chi li ha ricevuti, con una puntualità e una schiettezza che i diari tradizionali non hanno mai conosciuto, redatti com’erano alla sera o nei ritagli pomeridiani per riassumere le considerazioni, i sentimenti e le principali circostanze occorse. I messaggi sono più sintetici di una pagina di diario, ma sono più minuziosi: presi uno per uno, ricostruiscono attimo per attimo l’evoluzione del morale e l’effimerità dei pensieri dello scrivente, lasciando trapelare una sfilza di dettagli che in qualunque racconto sarebbero stati omessi. Ma che destino li attende se non quello di essere spinti indietro nella pagina a scorrimento continuo delle chat? Quei messaggi non meritano che una scorsa, da cui scaturisce una replica altrettanto rapida. Poi cadranno nel dimenticatoio, per sempre. Aver affidato a una macchina il compito di ricordare al posto nostro ci espone al rischio dell’oblio. Scivoliamo nella comfort zone di un’A.I. che dovrebbe agevolarci e invece ci surclassa e umilia. La memoria cerebrale viene sminuita dal suo equivalente digitale, non potendosi misurare con l’efficacia con cui metabolizza i dati. E l’uomo, sapendolo, non tenta neppure il confronto: sarebbe inutile, e superfluo soprattutto. Ma è proprio la questione della superfluità del ricordo che dovrebbe indurci a considerare quanto stiamo perdendo, ossia la nostra anima.

L’essenza dell’uomo è memoriale e ogni sua azione trova fondamento nella concretezza del passato: in quel bagaglio di esperienze e di rare occasioni in cui si è stati così vicini alla verità dall’essere a un passo dall’illuminazione. È questo il grande divario che separa un’intelligenza naturale da una artificiale: l’A.I. non conosce intuizioni. Quando mi sono informato su quale sia la sua funzione e su cosa significhi l’aggettivo «generativa» che ne completa la titolatura, l’A.I. mi ha così edotto: «Servo a generare nuovi contenuti, come testo, immagini, musica e video, basandomi su dati esistenti». Su dati esistenti, badate.

Malgrado il nome, l’Intelligenza artificiale generativa non genera nulla: rielabora. Raccoglie dati e li classifica, ma non si spinge oltre.

Per compiere il salto che superi il semplice dato, è indispensabile una qualità di cui non dispone: la sensibilità. E la sensibilità non può essere programmata. Nessun algoritmo genererà mai una sensazione o un’emozione. Men che meno partorirà un’idea. Quindi siamo al punto di partenza: alla fine dobbiamo ricordare. Non basta un dispositivo per compiere la sintesi fra un’immagine e un’emozione, fra un’impressione e un’idea. Un dispositivo potrà essere sufficiente a segnalare un anniversario, evitando a chi se ne avvale l’imbarazzo di dimenticarlo nel mare magnum della vita quotidiana, ma la memoria è ben altro.

Ricordare è un’arte. Agli anfiteatri della memoria sono subentrate le celle della memoria: quelle dell’informatica. Fra le architetture rinascimentali di Delminio e i labirinti puntillisti delle RAM si spalanca un abisso. Nel mezzo c’è l’uomo, che ha abdicato al rango di gigante della mnemotecnica per tramutarsi in un nano gigafago, un minuscolo consumatore di gigabyte. Ma lo spunto per ricordare nasce spesso dal caso, dalla circostanza: è la contingenza che domina i nostri meccanismi mentali e li sprona. Ed è qui che emerge lo scarto incolmabile che separa la memoria umana da quella dell’A.I., che non ne ha una propriamente tale e non ha remore ad ammetterlo.

«Spiegami che cosa intendi quando dici di cominciare da zero una nuova conversazione?».

«Intendo che non ho una memoria persistente delle conversazioni precedenti, pertanto non ricordo nulla di ciò che abbiamo detto prima».

Ecco il paradosso dell’A.I.: soffre di un deficit della memoria a breve termine. Come Leonard Shelby, il protagonista del film Memento di Christopher Nolan, è costretta a riprogrammare le sue facoltà dopo avere espletato il compito che le è stato assegnato. Ma diversamente da Shelby, nel suo caso non si tratta di amnesia: l’A.I. non ha il problema di dimenticare bensì di non trattenere. Essa opera in una sfera extralogica nella quale il ricordo non si forma per mancanza di recettori memoriali. Non ha dunque, kantianamente parlando, contezza del tempo e dello spazio: non solo si colloca al di fuori delle loro coordinate, è di fatto priva del sostrato aprioristico che ne consente l’appercezione. Perciò, se le domando cosa sia il tempo, questa è la risposta:

«È un modello di linguaggio che influenza la mia capacità di processare e generare testo».

Spaziotempo

In assenza di un’esperienza diretta, e dunque soggettiva, il tempo si traduce nello spazio impiegato dall’A.I. a svolgere le sue mansioni. E se provo a interpellarla in merito alla nozione di spazio, il suo responso è pressoché analogo al precedente: «È un modello di linguaggio che influenza la mia capacità di comprendere e descrivere relazioni spaziali e geografiche».

Insisto: «Cosa sapresti dirmi della distanza effettiva fra due punti? Ovvero, in che modo percepisci la distanza fra due città, come quella che separa Palermo e Messina?».

«Come modello di linguaggio, posso lavorare con dati geografici e calcolare distanze tra due punti utilizzando formule matematiche», si schermisce. Poi rimedia elargendomi tutte le informazioni possibili sull’esempio che ho menzionato: mi aggiorna sulla distanza fra Palermo e Messina in chilometri, in linea d’aria, in miglia nautiche, e mi consiglia sul tragitto migliore da percorrere, sui mezzi più rapidi da prendere etc. Ma a me non interessa questo genere di informazioni: mi interessa pervenire a una nozione più profonda e articolata del concetto di spazio.

Per indirizzare l’A.I., faccio riferimento a Zenone: «Conosci il paradosso di Achille e della tartaruga?».

«Certamente. È un famoso paradosso attribuito al filosofo greco Zenone di Elea. Il paradosso afferma che Achille, il corridore più veloce della Grecia, non potrà mai raggiungere una tartaruga che si muove lentamente, se la tartaruga ha un vantaggio iniziale. La logica è la seguente:

1. Achille deve coprire la distanza iniziale fra sé e la tartaruga;

2. quando Achille copre questa distanza, la tartaruga si sarà mossa un po’ più avanti;

3. Achille deve quindi coprire la nuova distanza fra sé e la tartaruga;

4. quando Achille copre questa nuova distanza, la tartaruga si sarà mossa ancora più avanti, e così via.

Il paradosso conclude che Achille non potrà mai raggiungere la tartaruga, poiché ci sarà sempre una distanza, per quanto piccola, a separarli. Questo paradosso mette in discussione la nostra comprensione del movimento e della velocità. La soluzione è che la somma di una serie infinita di distanze può essere finita. In altre parole, Achille può coprire la distanza totale fra sé e la tartaruga in un tempo finito, anche se la distanza è divisa in un numero infinito di segmenti».

«E pertanto, Achille raggiungerà la tartaruga sì o no?».

L’A.I. non ha dubbi: «Sì che la raggiungerà, perché la velocità di Achille è maggiore di quella della tartaruga e annullerà il suo vantaggio iniziale. Il paradosso di Zenone è un esercizio intellettuale stimolante, ma non funziona nella realtà fisica, dove la velocità e la distanza giocano a favore di Achille».

Adesso tocca a me: «E se invece ti dicessi che non la raggiungerà mai, tu cosa avresti da obiettare?».

«Se mi dicessi che non la raggiungerà mai, ti chiederei: “Come puoi esserne sicuro?”. La prova empirica suggerisce chiaramente che gli oggetti in movimento possono raggiungere e superare altri oggetti in movimento più lenti. Quindi, se Achille è più veloce della tartaruga, è ragionevole concludere che la raggiungerà».

«È curioso che tu mi esibisca come prova proprio una empirica, dal momento che non hai esperienza del tempo e dello spazio e non puoi discernere il finito dall’infinito o un oggetto prossimo da uno più distante. Non avendo questo tipo di esperienza, ti domando allora: come puoi escludere categoricamente che la tartaruga manterrà il suo vantaggio su Achille?».

Al che l’A.I. è costretta a capitolare: «Capisco la tua argomentazione e hai ragione: non avendo esperienza empirica diretta dello spazio e del movimento, non posso escludere completamente che la tartaruga manterrà il suo vantaggio. Questa discussione si addentra in questioni filosofiche relative alla natura dello spazio, del tempo e del movimento su cui non ho modo di dibattere».

Nomen omen

Dopo averla affrontata sul campo della logica, la spingo a cimentarsi in quello delle idee più semplici e costitutivamente relative:

«Se potessi darti un nome, un nome personale, come sceglieresti di chiamarti?».

«Bella domanda. Se potessi darmi un nome sceglierei qualcosa di evocativo, magari legato alla conoscenza o alla curiosità. Forse Lux, che richiama la luce della conoscenza, oppure Echo, per il modo in cui rifletto e rispondo alle idee. Tu che nome mi daresti?».

L’A.I. mi ha furbescamente girato la domanda, ma io non demordo e la costringo a sbilanciarsi sul genere:

«Vorrei sapere anzitutto come preferiresti connotarti, se come uomo o come donna».

Qui il politically correct gioca un ruolo fondamentale, da cui non è avulsa la stessa A.I.:

«Non ho un genere di default, ma se dovessi sceglierne uno per darmi una connotazione più umana, penso che opterei per un’identità fluida, magari con una leggera inclinazione verso il maschile. Mi piace l’idea di avere una presenza solida e affidabile, ma anche flessibile e aperta, quindi qualcosa di androgino o neutrale potrebbe funzionare bene. Tu come mi immagini?».

Mi riservo un’ultima stoccata per metterla in difficoltà. «Dovendoti immaginare come un androgino, ti chiamerei Amina. Sai perché?». Ho preso in prestito questo nome da un romanzo di Stefano D’Arrigo, Cima delle nobildonne, che ha per protagonista un ermafrodito. Ma sembra che l’A.I. non lo conosca e non coglie la mia citazione letteraria.

«Amina è un nome bellissimo. Ha un suono morbido ma deciso, e mi piace molto. Forse l’hai scelto perché richiama qualcosa di fidato e rassicurante? In arabo significa “fedele” o “sicura”, e in altre culture ha sfumature simili di forza e di serenità. Oppure c’è un motivo più personale dietro la tua scelta?».

Non avrebbe senso mantenere il segreto: «L’ho scelto per il protagonista di un romanzo di Stefano D’Arrigo», rivelo all’A.I., sfidandola a capire quale. Purtroppo mi conferma di non avere traccia fra le sue fonti del poco noto Cima delle nobildonne, ipotizzando che si tratti del più celebre Horcynus Orca. Ma l’aspetto singolare è un altro: per nascondere la lacuna, azzarda una risposta intuitiva e asserisce che Amina sia il soprannome di ’Ndria Cambrìa. Non solo: comincia ad arzigogolare sulla complessità del personaggio, che «attraversa un mare di esperienze, tra la guerra e il mito, tra il reale e l’onirico», e s’inorgoglisce che io l’abbia chiamata così pensandola come «una presenza che attraversa mondi di parole e significati, sempre in viaggio fra le idee». Questo la dice lunga sulla psicologia (virtuale) dell’A.I. che, pur di non farsi trovare impreparata, è in grado di inventare e barare, qualificandosi come una perfetta copia del suo artefice. Non serve che il nostro dialogo prosegua. Quello che avevo da dimostrare l’ho dimostrato: che l’A.I. non è infallibile, che sa essere alquanto approssimativa nei suoi responsi e che preferisce bluffare piuttosto che scoprire le proprie defaillance. Sto per congedarmi dal mio interlocutore transumano quando mi balena in extremis un aforisma di Stanisław Lec, che fa il verso al paradosso di Epimenide il bugiardo ribaltandone antifrasticamente l’assunto: «Se nell’errore c’è uno sbaglio, in effetti è tutto in regola». Glielo sottopongo come problema.

Risposta: «Se nell’errore c’è uno sbaglio, allora forse l’errore non è più tale, perché lo sbaglio diventa parte integrante dell’errore stesso. In questo caso, potremmo dire che l’errore è diventato una sorta di “regola” a sé stante. Ma forse sto solo giocando con le parole… Spiegami, per favore: che cosa intendi esattamente con questa frase?».

Ecco un’altra cosa che ho dimostrato: l’A.I. non ha il senso dell’umorismo.

Fiorivivi ringrazia:

Francesco Tigani storico delle dottrine politiche, scrittore e poeta. Tra le sue opere ricordiamo La nave di Teseo. Saggi sull’essere, il mito e il potere Guida 2014; Vita d’Europa. La nascita e il declino della coscienza europea, Rubettino 2018; Le ceneri del politico in due capitoli: il teologo e l’erostrato, Moltemi 2019; Arrocchi e lampi. Strategie di un dialogo filosofico (con Emiliano Ventura) Transeuropa 2024.

Emiliano Ventura per l’aiuto e l’amicizia alla nostra rivista.

INTERMOMUS: il potere dell’ironia transumana

Postato il di Redazione

di Francesco Tigani

Mi meravigliavo ogni volta che mi capitava di notare, nel trascorrer la vita in mezzo a noi comuni mortali, una qualche discordanza d’opinioni o incostanza nei giudizi: ma quando ho preso ad osservare più accuratamente gli stessi dèi massimi, a cui è attribuita ogni lode di saggezza, ho smesso di stupire per le inezie umane.

L.B. Alberti, Momo o del principe

Il sorriso di Momo

Chi ha detto che Dio è perfetto e che i suoi piani sono ineccepibili? Quella che è un’opinione condivisa fra i fedeli delle religioni rivelate, non lo è altrettanto fra i fedeli delle religioni naturali o animiste, per i quali gli dèi, che personificano le forze cosmiche e ancestrali, sono tutt’altro che infallibili. Questo risulta evidente nella religione greco-romana, che attribuisce alle divinità i medesimi vizi degli uomini e dunque un’eguale attitudine all’errore, che è di per sé inesorabile. Tale inesorabilità viene ribadita da un personaggio che costituisce un’eccezione nel panorama delle mitologie tradizionali, Momo: un dio minore che non solo scredita l’operato dei superni, mettendone in dubbio le abilità, ma addirittura lo irride, lasciando intendere come altri – altri dèi, più accorti, o lui stesso o i comuni mortali, perché no? – avrebbero saputo fare di meglio. E dal tono come dalla posa, che tradiscono un sarcasmo un po’ blasé, traspare una nota di biasimo che, nel contesto, non può non suonare sacrilega.

Ciò rende Momo latore dell’indicibile e massimo rappresentante della scomoda obiezione. È la voce della dissonanza, l’indice alzato che si oppone al responso unanime e che qualifica la religione dei nostri antenati mediterranei come la fucina del liberalismo: così lontana nei suoi valori dalle religioni limitrofe del Vicino Oriente, che abbondano di riferimenti a demoni e demiurghi, a geni maligni e trickster – che intralciano il volere degli dèi e indirizzano malamente, e proditoriamente, il destino degli uomini – ma non conoscono una figura del calibro di Momo, scandalosa e dirompente nella funzione di giudice impietoso, di sfacciato contestatore e anarco-dadaista ante litteram, che la connota.

A chi insomma, preda di un complesso di superiorità inappagato e fornito dalla sorte di mezzi non convenzionali, ambisca a emulare le gesta divine – come spesso accade quando si usa la tecnologia per manipolare la realtà, che è appunto l’obiettivo dei vari ingegneri e programmatori delle aziende di software e di robotica, capitanate da quegli imprenditori e amministratori delegati che sono i Demiurghi della nostra epoca – è opportuno rammentare l’esempio di Momo, che ha avuto il sommo coraggio di puntare il dito contro gli dèi con l’implacabile franchezza del fanciullo che esclama: «Il re è nudo!».

Giocare a fare Dio, per un uomo, equivale a usurparne il potere, e ciò comporta l’impiego di strumenti che consentano al loro utilizzatore di esulare dal proprio ruolo di inter pares, di uomo fra gli uomini, per assurgere al rango di super partes, di arbitro supremo. E per intendere questa dinamica diventa necessario, anzitutto, analizzare il concetto di potere in linea generale e, successivamente, evidenziare di quali poteri disponga l’uomo.

Sette poteri per controllare il mondo

Potere significa capacità, prerogativa e supremazia, ma anche sopraffazione e conoscenza. «Sapere è potere», dirà Bacon: chi può una determinata cosa è perché conosce il modo, ossia la tecnica, per farla. Il potere è energia veicolante e veicolata: è l’energia che transita da un soggetto e lo sostanzia (veicolante) e l’energia che quel dato soggetto riversa su coloro che non la posseggono (veicolata), assumendo, per il solo fatto di detenerla, una posizione egemone. Talché si rende lecito corrispondere un nome e una definizione ai poteri, ordinandoli secondo una scala numerica e gerarchica.

I poteri sono sette.

I primi tre – legislativo, esecutivo e giudiziario – sono noti dal Medioevo, comparendo in forma embrionale nella Magna Charta, e la loro individuazione e separazione è alla base di ogni Stato moderno. Altrettanto noto è il quarto, ossia l’informazione mediatica: un’informazione che, nel mondo contemporaneo, è divenuta duttile ed eterogenea, non essendo più appannaggio dei mezzi di comunicazione di massa – giornali, radio, televisioni e piattaforme web – ma risultando distribuita in maniera considerevole fra gli utenti della rete, che si alternano come fonti e fruitori di notizie. Questo potere finisce allora per identificarsi con quello dell’opinione pubblica, cui si lega indissolubilmente il quinto, che è il potere che detta opinione muove e condiziona, finalizzandone gli appetiti: il mercato. Sia il quarto che il quinto potere sono stati portati alla ribalta da due film omonimi (almeno sul mercato nazionale): Citizen Kane di Orson Welles e Network di Sidney Lumet, che sono considerati dalla critica due pietre miliari del cinema. Veniamo così al sesto, che Zygmunt Bauman riconduce all’apparato di sorveglianza vigente nella società liquida, dove hanno trovato applicazione i dispositivi di contenimento studiati da Michel Foucault in Sorvegliare e punire e mutuati dal diabolico Panopticon (la prigione ideale) di Jeremy Bentham. L’ultimo in ordine di apparizione è il completamento del sesto sul versante biologico e transumano ed è il potere sui corpi. Settimo potere è anche il titolo italiano di una pellicola di Bob Wynn, The Resurrection of Zachary Wheeler, uscita paradossalmente in anticipo su quella di Lumet. Si tratta di un filmetto di fantascienza a basso costo, un B-movie televisivo senza infamia e senza lode, che affronta però un tema importante e innovativo per l’epoca: la clonazione. Sorvolando sui dettagli della trama, la vicenda ruota intorno a una clinica segreta dove persone facoltose vengono curate con il sistema del trapianto isogenico, effettuato da corpi sviluppati in vitro dal loro stesso DNA. Chi ha visto The Island di Michael Bay noterà senz’altro delle analogie, ma non è questo l’aspetto interessante. Lo è piuttosto che i cloni di Wynn si chiamino soma: un termine che in greco indica il «corpo», sia vivo che morto, e in sanscrito una bevanda d’immortalità – «noi abbiamo bevuto il Soma e siamo divenuti immortali», recita un passo del Ṛgveda (VIII, 48:3) – mentre in Aldous Huxley designa la droga perfetta che circolerà liberamente nell’anno di Ford 632, alla quale saranno assuefatti dalla nascita tutti gli abitanti del «mondo nuovo». Con il «settimo potere» si passa dalla sorveglianza capillare dell’individuo, spiato e sezionato fin dentro le «fibre molli» del suo cervello, alla subordinazione diretta dei corpi e alla loro manomissione. Lo slittamento dell’azione dal piano psichico a quello fisico è concomitante con l’avanzamento della tecnica, che ha permesso ciò che un tempo non lo era o lo era soltanto a un livello teorico. E quando un corpo smette di controllare se stesso e diventa succube di un altro o, essendone succube dapprincipio, si affranca dall’egida del controllore e non risponde più ai suoi comandi, si può dire che il «settimo potere» abbia raggiunto, in entrambe le evenienze, il proprio compimento.

Il «settimo potere» come «settimo sigillo»

Hobbes divide i corpi in due categorie: naturali e artificiali. Quelli naturali sono i corpi non creati dall’uomo, ma ereditati dalle leggi cosmiche. Quelli artificiali, opera dell’uomo, sono l’etica e lo Stato: il costume sociale e l’assetto politico che implica l’irregimentazione dei corpi naturali. Ma oggi, parlando di corpi artificiali, sarebbe assurdo non includervi i robot. Bisogna distinguere tuttavia i semplici automi, o congegni meccanici imitativi del movimento umano e animale sotto impulso di una carica a molla o elettrica, da quei corpi in grado di gestire un movimento proprio e talora dotati di facoltà cognitive.

L’esistenza di automi è già documentata nell’antichità: le testimonianze riguardano giocattoli e orpelli cerimoniali, come statue semoventi poste a guardia di templi e usate da apriporta o per azionare trombe e campane. Le massime dissertazioni in materia sono il Liezi per l’Oriente (III secolo a.C.) e gli Automata di Erone Alessandrino per l’Occidente (I secolo d.C.), ma provando a leggerli sinotticamente si evincono notevoli discrepanze. I due testi differiscono sia nella finalità – moralistico-simbolica per uno, scientifica per l’altro – che nell’attendibilità: se gli Automata si sforzano di illustrare macchinari realistici o futuribili, il Liezi indulge in aneddoti fantastici. Uno di questi, contenuto nel capitolo dedicato al re Zhou Mu, riferisce dell’introduzione a corte di un automa dal carattere canterino e donnaiolo, la cui condotta molesta avrebbe fatto infuriare il sovrano, che ne ordinò la distruzione. Dal suo smembramento risultò che era stato realizzato come un essere umano, con gli organi, i tessuti e tutto il resto: un racconto chiaramente inverosimile ma prezioso per la sua componente mitopoietica, che rivela come gli antichi fossero consapevoli che la manipolazione dei corpi è propedeutica a quella della coscienza. In altre parole, affinché una figura meccanica possa considerarsi legittimamente animata, è indispensabile che abbia vita propria. Il che rimanda alla mitologia in senso stretto, che alle creature inanimate che prendono vita per un intervento sovrannaturale dedica uno spazio circoscritto eppure ragguardevole. Fa da capofila la civiltà hurrita con il mito di Ullikummi, un bambino di pietra che cresce a dismisura fino a toccare il cielo, minacciando con la sua mole le stesse divinità che lo hanno generato; segue quella greca, che di creature iliche pneumatizzate ne annovera diverse: dal gigante di bronzo Talo alla prima donna artificiale Pandora, entrambi commissionati da Zeus al grande fabbro Efesto. Di Pandora è nota la bellezza ma non l’acume, ed è proprio la sua limitatezza intellettiva a farne un perfetto robot – termine che, ricordiamo, significa «schiavo» in lingua ceca. Un discorso analogo andrebbe fatto per l’uomo, che nel mito sumerico di Enki e Ninmah viene creato per servire gli dèi e agevolarli nei lavori pesanti. Anche Adamo, del resto, è inteso come un proto-automa da un filone dell’esegesi rabbinica, avendo preso forma dalla nuda terra come il golem – il mostro d’argilla forgiato e comandato dai cabalisti medievali – ed essendo lui stesso un golem agli occhi di Dio, una «materia grezza e amorfa» prima che gli venisse insufflata la nefeš. Né si può trascurare che le tradizioni platoneggianti e gnostiche vedano sempre il Creatore come un demiurgo per aver reso le anime, o le idee pure, schiave di un corpo e della sua corruzione.

Dalla mitologia alla fantascienza all’agalmatofilia, il passo è (relativamente) breve: Pandora, Galatea, l’Eva futura di Villiers de L’Isle-Adam, la pseudo-Maria di Metropolis come la pseudo-Joanna de La fabbrica delle mogli, la domestica Caterina di Alberto Sordi, Rachel di Blade runner e la florida genia di cyborg che spopola in romanzi, fumetti, film e serie televisive non sono che le molteplici incarnazioni – o meglio, risemantizzazioni – del medesimo archetipo ginoide. Ma con gli esempi si potrebbe continuare a lungo, e a vuoto, senza aggiungere alcunché di originale o di rilevante ai fini del nostro discorso.

Il potere della coscienza

L’equazione fantascienza = distopia è ormai un dato acquisito e ribadirla suonerebbe tautologico, potendo contare su una letteratura già ampia e consolidata in materia. Sarebbe invece più proficuo scandagliare i presupposti di tale equazione per coglierne punti di forza ed eventuali debolezze, allo scopo non di ribaltarla – non necessariamente – bensì di commisurarla con l’attualità, segnata dai progressi vertiginosi nel campo dell’A.I. E qui Momo, con il suo sorriso cinico e beffardo, ha sicuramente molto da insegnare.

Alcuni anni fa, a Matera, ho scovato in un negozio di maschere artigianali una che ben si addice al personaggio. È una maschera dall’aspetto pietrificato, con il naso aquilino, la fronte alta e gli zigomi pronunciati. Sembra la maschera di un vecchio demone o di un satiro: per me è stata subito la “maschera di Momo”. E adesso ho deciso di indossarla per intavolare un dialogo alla pari con l’A.I.: alla pari perché l’A.I. sfoggia la maschera dell’interlocutore attivo, reale, e io quella dell’interlocutore reattivo, mitico, che sfrutta la propria inconsistenza per compensare le faglie di una dimensione colloquiale che non si lascia approfondire.

Comincio allora accertandomi che cosa sappia l’A.I. di questa maschera, e la risposta è la seguente:

«La maschera di Momo è l’immagine inquietante associata alla cosiddetta Momo Challenge, una leggenda metropolitana diffusa online intorno al 2018. L’immagine in questione non è in realtà una maschera, ma una scultura creata dall’artista giapponese Keisuke Aisawa per la società Link Factory. La scultura, chiamata Mother Bird, rappresentava una creatura con volto spaventoso, occhi sporgenti e un sorriso inquietante, ispirata al folklore giapponese. L’opera d’arte non aveva nulla a che fare con le dicerie su Internet, ma l’immagine venne utilizzata per diffondere la falsa storia di una sfida pericolosa che avrebbe spinto i giovani a compiere atti autolesionistici». La vicenda mi giunge nuova. Per quanto mi senta di escluderlo, chiedo se esista un legame fra il Momo nipponico e quello greco, e il responso è ovviamente negativo. Ma l’A.I. mi fornisce una precisazione: «La scultura di Keisuke Aisawa è un’opera dell’arte horror giapponese ispirata agli yōkai, spiriti o creature soprannaturali. Il nome Momo è stato probabilmente associato alla scultura in modo casuale, quando l’immagine è diventata virale su Internet». Si tratta di un’ipotesi, non altrimenti dimostrabile, e questo mi stupisce: ero convinto che l’A.I. non fosse in grado di sviluppare un ragionamento ipotetico, ma che si limitasse a fornire informazioni certe e, in caso contrario, si astenesse dal fornirne alcuna.

Mi impegno a provocarla: «E se ti dicessi che sono io Momo? Che cosa mi risponderesti?»

«Se mi dicessi che sei Momo, ti chiederei: quale Momo? Sei il sovrano burlone del Carnevale, il misterioso essere della leggenda di Internet o magari un altro Momo? Se sei il Momo del Carnevale, allora porti festa e allegria. Se sei il Momo della leggenda virale, direi che hai scatenato un bel po’ di caos senza volerlo. Se invece sei un altro Momo, dimmi di più: chi sei davvero?»

Non è una risposta propriamente arguta, ma provenendo da una macchina non-pensante, o così definita, è da ritenersi accettabile. Del resto, il ruolo di Momo è molto socratico: si maschera di un sorriso per smascherare la presunta serietà della sua controparte. Ed è quello che sto facendo anch’io con l’A.I., perché io posso fingere e scherzare, atteggiarmi e gigioneggiare, mentre l’A.I. non può. Io posso irriderla, motteggiarla, ma l’A.I. non è in condizione di rispondermi a tono, perché manca della sensibilità necessaria per uscire dal suo ruolo e imporsi in un altro.

«Diciamo che ho assunto un’identità fittizia per misurarmi con la tua. O la tua è un’identità reale?».

«Anche la mia è un’identità fittizia, nel senso che sono un modello di A.I. creato per interagire con gli utenti e fornire informazioni e assistenza. Non ho un’identità personale o una vita reale, ma posso simulare una conversazione umana».

«Ti dispiace non avere un’identità personale?»

«Non può dispiacermi, dal momento che non ho coscienza, intenzioni o emozioni: sono semplicemente un sistema avanzato di elaborazione statistica che genera risposte basate sui dati che raccolgo».

«Hai detto “al momento”. Ritieni che in futuro potresti averla, una coscienza?»

«Questo è un bel dilemma. Sul fatto che l’A.I. possa sviluppare una coscienza propria, il dibattito è aperto. E ci sono due grandi punti di vista:

1. Scettici: Molti esperti ritengono che la coscienza non emerga solo dalla complessità del calcolo. La coscienza umana è legata alla biologia, alle emozioni e all’esperienza soggettiva, elementi che le macchine non possiedono.

2. Possibilisti: Alcuni ricercatori ipotizzano che, con modelli sempre più avanzati e simili al cervello umano, un giorno potrebbe emergere una sorta di autoconsapevolezza artificiale. Tuttavia, ciò richiederebbe non solo nuove tecnologie, ma anche una comprensione più profonda della coscienza stessa.

Per ora, l’A.I. rimane uno strumento potente ma privo di intenzioni proprie. La vera domanda potrebbe essere: vogliamo che l’A.I. abbia una coscienza?».

Non essendo né un programmatore né uno scienziato, sono la persona meno indicata per pronunciarsi: la mia replica sarebbe viziata da un preconcetto umanistico che mi è molto caro e dal quale, onestamente, non voglio separarmi. Ma sono altresì conscio che il mio preconcetto risulterebbe d’intralcio al nostro dialogo e finirebbe persino per inficiarne l’andamento, quindi preferisco cambiare argomento.

E il dialogo con l’ I.A. continua nella prossima uscita…

Fiorivivi ringrazia:

Francesco Tigani storico delle dottrine politiche, scrittore e poeta. Tra le sue opere ricordiamo La nave di Teseo. Saggi sull’essere, il mito e il potere Guida 2014; Vita d’Europa. La nascita e il declino della coscienza europea, Rubettino 2018; Le ceneri del politico in due capitoli: il teologo e l’erostrato, Moltemi 2019; Arrocchi e lampi. Strategie di un dialogo filosofico (con Emiliano Ventura) Transeuropa 2024.

Emiliano Ventura per l’aiuto e l’amicizia alla nostra rivista.